Un nuevo chatbot apareció en las aplicaciones de Meta

Mark Zuckerberg no quiso quedarse atras de ChatGPT.. Imagen: AFP

A partir de la irrupción del Chat GPT en noviembre de 2022, la población mundial pudo finalmente conocer desarrollos en Inteligencia Artificial que la comunidad tecnológica venía realizando hacía años. Desde aquel momento, la IA se coló en todos los espacios cotidianos, laborales, escolares y el ocio. Esta semana, Meta –la compañía que gestiona Facebook, Instagram y WhatsApp (WP), propiedad de Mark Zuckerberg–, implementó para la región su propio chatbot denominado Meta AI. Paulatinamente, la herramienta fue apareciendo como opción en los móviles de cada vez más personas que, entre la sorpresa, la expectativa y las dudas, se preguntaba si era conveniente o no probar una interacción.

Como si fuera un oráculo y dotado de una tecnología similar al Chat GPT de la compañía Open AI de los magnates Elon Musk y Sam Altman, ahora se puede dialogar directamente en WP con una máquina que brinda respuestas que serán cada vez más ajustadas, conforme transcurra el tiempo. Esta maravilla, sin embargo, plantea nuevas incógnitas asociadas al riesgo: si Meta IA también está en WhatsApp, ¿la nueva IA puede leer los mensajes que cada usuario mantiene con sus contactos? ¿Puede acceder a conversaciones y fotos privadas? ¿Qué riesgo existe de que esa información finalmente se filtre? En definitiva, ¿cuán expuestos están los seres humanos con estos avances?

“Aunque la tecnología ya existía hace tiempo, ahora hay una forma sencilla de poder comunicarte, a la que cualquiera puede acceder. Lo que hay que saber es que se empiezan a ver estudios en donde se precisa que la IA puede engañar, es decir, inducir a una persona a que crea falsedades y hacerlo con un objetivo propio”, advierte Andrea Goldin, investigadora del Conicet en el Laboratorio de Neurociencia de la Universidad Torcuato Di Tella.

Un cifrado que no convence

A priori, WP asegura que los mensajes y todo tipo de contenido personal que cada usuario comparte, están cifrados “de extremo a extremo”. Bajo esta premisa, la compañía no tendría acceso a ellos. Ante la consulta de Página/12, Goldin explica: “Quiere decir que nadie entre ambos extremos, es decir entre el emisor y el receptor del mensaje, lo puede ver. No lo puede hacer porque tiene una contraseña que no permite decodificarlo, una llave que solo tiene el destinatario. Antes, cuando los mensajes no tenían esta condición, cualquier persona que tuviera un poco de conocimiento tenía la chance de interceptarlos”. Y continúa: “En este sentido, se supone que Meta no es un destinatario original de la mayoría de los mensajes, entonces, no debería poder leerlos. De hecho, en los términos y condiciones, WP dice que Meta solo podrá leer aquellos contenidos que lo mencionen, es decir, que lo tengan como destinatario. ¿Le creemos o no a eso? No sé, la verdad no le creo del todo. Tampoco me preocupa porque Meta ya sabe todo de nosotros”.

Cuando dice “todo”, Goldin refiere a toda la información disponible de cada persona en internet, a los movimientos registrados a partir de los mapas, a las interacciones sociales con otros individuos, a los gustos y demás data valiosa. En esta línea, la especialista en tecnopolítica Natalia Zuazo, responde: “Si bien la IA no puede leer nuestros mensajes e imágenes personales en sentido estricto, la recopilación de metadatos, preferencias y demás información detallada hace que sí sea posible, de manera contextual”.

Emmanuel Iarussi, que también se desempeña como investigador del Conicet en el Laboratorio de IA de la Universidad Torcuato Di Tella, agrega mayor detalle. “Cuando el mensaje deja tu celular, viaja a través de varios servidores y dispositivos de los proveedores de Internet a destino, pero ninguno de esos intermediarios puede entender el contenido del mensaje porque no posee las claves para descifrarlo”. Y después marca una diferencia con lo que sucede cuando la interacción no es con otro usuario sino con IA Meta. “Ahí no queda otra opción más que permitir que Meta acceda el contenido del mensaje para poder responder de manera automática mediante el bot de inteligencia artificial. Por el momento, Meta dice que solo accede al contenido del mensaje en el que arrobamos al bot y no a toda la conversación en ese chat”.

Si los usuarios quisieran eliminar Meta AI de sus celulares no podrían porque es un servicio ya integrado a la plataforma. “Va contra las políticas de privacidad recomendadas. La pusieron y no podemos quitarla, ni desactivarla. Supongamos que coincidimos con lo que nos propone Meta: ‘Recopilamos tus datos para ofrecerte una mejor experiencia de usuario’, y nosotros queremos utilizar WhatsApp porque nos es útil y hacemos ese intercambio. Muy bien, ¿pero qué pasa si no queremos hacer por ahora lo mismo con Meta IA?”, se pregunta la directora de Salto Agencia.

En esta parte del siglo XXI, que algunos pensadores bautizaron como “Sociedades de la información”, los datos adquieren valor y se mercantilizan. La información, por tanto, confiere poder. No es descabellado que, como ha sucedido en otras ocasiones, información sensible se filtre. De hecho, las empresas venden y compran bases de datos para sacar provecho, al tiempo que los actores políticos, en épocas electorales, buscan acceder a información (para conocer las inclinaciones, ideologías, gustos y valoraciones de cada quien) con el objetivo de sacar alguna ventaja frente a sus oponentes.

Entrenamiento gratuito

Mientras más conversan, más se potencian las inteligencias Artificiales, tecnologías que relucen cuanto más humanas parecen. Y lo que aún significa más: ya no es necesario que los usuarios los busquen en una exploración de internet, sino que se presentan en aplicaciones como WP que las personas usan de manera cotidiana. A cambio de la novedad de poder conversar con máquinas “cada vez más inteligentes”, los usuarios de todo el mundo son los que gestan esta revolución, pues entrenan los algoritmos de las compañías de manera gratuita y por pura diversión o curiosidad.

Iarussi aclara al respecto: “Meta dijo que no entrenan en nuestros datos, solo en contenido público de Internet. Es difícil saber con certeza si utilizan texto o algún otro tipo de información menos privada que les sirve para crear un perfil de usuario y mejorar las respuestas. Por ejemplo, Spotify y Netflix usan nuestros datos para entrenarse y ofrecernos recomendaciones sin que eso nos afecte demasiado a la privacidad”.

Goldin, por su parte, destaca: “Algo espeluznante de cómo se entrenan las IA es que la mayor parte de los datos salen del uso que nosotros hacemos de internet. Mucho, incluso, está repleto de sesgos racistas y homofóbicos; son círculos viciosos que perpetúan nuestros propios prejuicios. Además, hay que tener en cuenta que hay mucha más información disponible de naciones centrales que periféricas en la red”. Y remata: “Todo se entrena a partir de nuestros datos. No existe algo gratis, siempre te lo cobran por otro lado. En YouTube, si no pagás el Premium, tenés publicidad, por lo que la moneda de cambio en ese caso es tu atención”.

Meta AI no solo conversa en tiempo real, sino que también tiene la capacidad de generar imágenes y participar de grupos. Los usuarios pueden solicitar recomendaciones de cualquier tipo como planificar una salida con amigos, brindar soluciones a problemas e interactuar de una manera amena. Si bien a muchos usuarios, al comienzo, esto puede representarles una intrusión tecnológica más en la vida privada, también están los que le encuentran sentidos de todo tipo. Hay quienes, al no recibir mensajes en prácticamente todo el día, se entretienen al charlar con un algoritmo, que responde de manera cordial y presta ayuda valiosa. Por el momento, las respuestas que brinda pueden ser imprecisas o no conformar al usuario, pero eso –según prometen– se irá puliendo.

¿Oráculo de la política?

Yuval Harari es uno de los intelectuales más interesantes de la época y, en sus últimas publicaciones y conferencias, sugiere pensar más allá. Desde su mirada aguda plantea un interrogante: ¿cuánto tiempo pasará para que los políticos consulten decisiones de importancia medular para una nación con una IA? ¿Por qué preferirían a su grupo de asesores antes que a una Inteligencia Artificial que puede ayudar a resolver problemas de manera mucho más ajustada y veloz? Si el oráculo que figuraba en los mitos de la Antigua Grecia finalmente se vuelve real –y como si fuera poco está a un clic de distancia–, ¿por qué no consultarlo?

Al momento, el chat de Meta ya desembarcó en Chile, México, Colombia y Ecuador, pero no será utilizado en Brasil, ni tampoco en los países que componen la Unión Europea. La UE es la región que se muestra más reticente a aceptar estas aplicaciones y desconfía de las interacciones entre las nuevas IAs y las personas.

En contraposición a ello, países como Argentina buscan aprovechar el vacío y ubicarse como referencia. De hecho, el propio presidente Javier Milei, en una innumerable cantidad de diálogos públicos con periodistas, propone a nuestro país como polo de innovación y expresa que podría despegar gracias “a que tiene todo” lo necesario para la IA. Con ello, se refiere a recursos humanos, a la energía suficiente para alimentar los centros de cómputo en dónde se entrenan los algoritmos y a los climas fríos que caracterizan a la Patagonia, necesarios para refrigerar, precisamente, esos centros de operaciones.

Aunque en 2023 los propios desarrolladores de la IA firmaron cartas para frenar su impulso –entre ellos, el propio Elon Musk– nada de esto ocurrió. En el presente, el mundo asiste a una revolución de tal magnitud que es imposible de frenar. Como siempre, en el medio del poder económico de las corporaciones y tecnológico de las máquinas, está la gente. Las personas que cada vez importan menos en las ecuaciones a mediano plazo que realizan los magnates.