Fuente: Futurism

Ya estamos acostumbrados a las historias de parientes que, sin querer, publican detalles personales en redes sociales. Pero, ¿te imaginas ahora un escenario mucho más inquietante? Que seas tú quien comparte sus pensamientos más íntimos y sus consultas más privadas, no con amigos y familiares, sino con el mundo entero, ¡y sin siquiera darte cuenta! Esto es exactamente lo que está ocurriendo con los usuarios de la aplicación de IA de Meta

.
"Asistente de IA de Meta": ¿chatbot o recolector de secretos?

Lanzada a finales de abril, la aplicación "Asistente de IA de Meta" —que en realidad es solo un llamativo chatbot diseñado para recolectar tus datos— se ha convertido rápidamente en una ayuda virtual indispensable para muchas personas en todo el mundo. Apenas un mes después de su lanzamiento, Meta alardeó de que su aplicación había superado los mil millones de usuarios. Pero hay un pequeño problema: todo lo que le preguntas a la IA de Meta es susceptible de acabar en un feed público, expuesto a las burlas de todo el mundo.

La trampa del "compartir" oculto

Desde el primer momento en que inicias sesión, la aplicación está ansiosa por ponerte en marcha. Lo primero que ve un nuevo usuario es una pantalla sencilla con sugerencias de preguntas, que van desde "conozcámonos" hasta "descríbeme en tres emojis". Si un usuario desprevenido —por ejemplo, un abuelo poco familiarizado con la tecnología— decide empezar por ahí, podría tropezar accidentalmente con un pequeño ícono de "compartir" en la esquina superior que sube su consulta al "feed de descubrimiento" de la aplicación. Aunque Meta afirma en su sitio web que "siempre tienes el control: nada se comparte en tu feed a menos que elijas publicarlo", la realidad dista mucho de la verdad.

De lo privado a lo público: ejemplos impactantes

Una rápida revisión del feed de descubrimiento de la aplicación revela una montaña de intercambios que, casi con toda seguridad, la gente no tenía intención de compartir públicamente. Entre el contenido generado por IA, ya esperado —cosas como "adolescente pasea a su raptor con correa casualmente" o "Wonder Woman conduciendo un Ford Mustang Fastback verde de 1965 a toda velocidad"—, se encuentran decenas de consultas a chatbots con información personal asombrosamente íntima.

Por ejemplo, un usuario preguntó: "¿cómo puedo mejorar mis movimientos intestinales?". El chatbot respondió con algunos consejos generales y luego solicitó explícitamente detalles personales: "¿cómo son tu dieta y estilo de vida actuales? ¿Estás experimentando algún problema específico con los movimientos intestinales?". Otro usuario preguntó, con errores tipográficos: "tengo el colesterol alto y a menudo tengo problemas para evacuar ¿está relacionado?". Lo más aterrador es que si iniciaste sesión en la IA de Meta con una cuenta de Facebook o Instagram existente, el nombre que tengas visible allí —el real para la mayoría de los usuarios— es visible bajo tus consultas públicas.

El desafortunado usuario que lidiaba con problemas intestinales, por ejemplo, tiene un perfil que contiene otras preguntas privadas, como "¿cuál es la forma más fácil de deshacerse de los piojos púbicos?" seguido de "¿hay alguna razón por la que sigo contagiándome?". Al igual que el feed de descubrimiento, las violaciones de la privacidad son interminables.

Otros ejemplos que encontramos incluyen profesores generando preguntas de examen, usuarios pidiendo consejos sobre relaciones complicadas, más consultas sobre higiene sexual, discusiones detalladas sobre historiales médicos y asistencia para generar una carta "sentida" a un juez antes de una sentencia penal.

Grabaciones de voz: ¿conversaciones al aire?

Asombrosamente, la aplicación también graba y sube consultas de voz, sin importar su duración. Encontramos una grabación que duró más de una hora, donde la conversación pasó de la opinión de Candace Owens sobre Black Lives Matter a la pregunta de si alguien estaba "intentando activamente matar a George Soros", y luego a solicitar direcciones detalladas basadas en la ubicación actual del usuario. Otro pasó varios minutos detallando sus problemas fiscales. "¿Qué hago si gané unos doscientos mil el año pasado y olvidé declarar impuestos?", preguntó. "Si debes impuestos, el IRS probablemente te enviará un aviso con el monto adeudado", sugiere el chatbot. "Bueno, supongo que esperaré a que me llamen", suspira el usuario. Otras conversaciones derivaron en temas que sería mejor dejar para una pestaña de incógnito.

 confianza ciega y falta de responsabilidad

Por un lado, todo esto revela la asombrosa cantidad de fe que la gente ya tiene en estos nuevos productos, y hasta qué punto se han convertido rápidamente en un apoyo para muchos. Un usuario, por ejemplo, le preguntó "¿qué decir para felicitar a mi sobrina que se gradúa de la UCLA?". Al mismo tiempo, también subraya la responsabilidad gigantesca que tiene Meta como proveedor de un servicio público de facto, y la horrible falta de rendición de cuentas que la compañía ha demostrado constantemente a lo largo de su existencia.

Fuente: Futurism