¿Juguetes con inteligencia artificial (IA)? Vaya buscando otro regalo de Navidad

A vísperas de las fiestas, organizaciones sin animo de lucro y expertos señalan los peligros de ofrecer juguetes con IA como regalo de Navidad. Estos incluyen estimular la adicción, mantener conversaciones sexuales explícitas e impulsar conductas dañinas en los más jóvenes. ¡Descubra más a continuación!

Para bien o mal, la inteligencia artificial (IA) continúa moldeando la forma en la que funciona el mundo. Esto ha resultado evidente sobre diversos procesos de trabajo a lo largo de los todos los sectores laborales. Sin embargo, también incluye cuestiones más «banales». Estas abarcan las formas en las que los niños y adolescentes juegan.

No nos referimos a cómo los ejecutivos en múltiples compañías de videojuegos todavía buscan integrar IA generativa (GenAI) en sus procesos de desarrollo, tal como explica Futurism. Hablamos de juguetes que emplean IA para interactuar con sus usuarios.

Para los padres que buscan un regalo de Navidad inolvidable para sus hijos, un juguete con inteligencia artificial puede parecer una buena opción. No obstante, múltiples expertos han señalado los riesgos de implementar esta tecnología en productos para los más jóvenes. Esto no se debe exclusivamente a los riesgos de seguridad, sino a cómo puede afectar el desarrollo de las relaciones interpersonales y la creatividad.

¿Qué son los juguetes con IA?

Fairplay, una organización de protección infantil sin ánimo de lucro, los define como chatbots integrados en juguetes cotidianos. Como su nombre implica, emplean inteligencia artificial para comunicarse como una persona real e imitar sus emociones.

Si bien empresas como Curio Interactive y Keyi Technology son las pioneras en este campo, no son las únicas. De hecho, Mattel ya ha anunciado que trabajará de la mano de OpenAI para integrar IA en sus juguetes. Cabe recordar que esta organización posee los derechos de franquicias como Barbie, Hot Wheels, Uno y Masters of the Universe.

El auge de los juguetes con IA

Es importante señalar que el desarrollo de ChatGPT y otros LLM no dieron lugar a los «juguetes que hablan». Esta tecnología tan solo los hizo más comercialmente disponibles. 

Basta con recordar a Hello Barbie (2015), una muñeca capaz de mantener conversaciones por medio de un micrófono y una conexión de WiFi. Al mantener presionado un botón en la cintura de la muñeca, se grabaría la pregunta. Dicha grabación sería enviada a un data center donde sería analizada y comparada con miles de líneas pregrabadas. Finalmente, Hello Barbie daría la respuesta más acorde a la pregunta hecha.

Aunque impresionante, Hello Barbie fue centro de una polémica debido a los riesgos de seguridad que suponía. En su momento, Fairplay encabezó una campaña para sabotear el lanzamiento de la muñeca. El resultado fue el fracaso comercial del juguete.

No obstante, ya ha pasado una década desde ese entonces y las cosas han cambiado. Basta con ver el innegable éxito que han tenido los juguetes con IA en China. Como revela MIT Technology Review, un informe de Shenzhen Toy Industry Association y JD.com predice que el sector superará los 14.000 millones de dólares para 2030.

No menos importante, la base de datos Qichamao muestra que actualmente hay más de 1.500 compañías de juguetes con IA en China. Los productos van desde BubblePal, un accesorio que permite que otros juguetes hablen, hasta los peluches de FoloToy, empresa que permite personalizar la IA para que hablen de una forma particular.

Hoy en día, ambos juguetes con IA se distribuyen fuera de China.

También le puede interesar:Chatbots que suplantan identidades de famosos a través de una app de IA. ¿Quién protege a los menores en la era de la IA?

Por supuesto, lo anterior no implica que estos productos estén libres de críticas. En China, los padres que han comprado estos juguetes argumentan es que no proveen una experiencia suficientemente cautivante. Los niños terminan aburriéndose.

Sin embargo, lo anterior no es su principal falencia.

Los peligros de los juguetes con IA

Con el aval de más de 150 expertos y grupos, Fairplay publicó un documento informativo que busca disuadir a los padres de comprar juguetes con IA estas Navidades. La organización sin animo de lucro especificó cinco razones.

Los juguetes con IA usualmente están potenciados por la misma inteligencia artificial que ya ha perjudicado a menores

No dejen que la apariencia de los juguetes de IA les engañe. Un reciente debate del senado de los Estados Unidos presentó pruebas de que los chatbots impulsados por IA pueden estimular la adicción, mantener conversaciones sexuales explícitas e impulsar conductas dañinas en los más jóvenes. Como muestra TechCrunch, estos chatbots pueden sufrir de alucinaciones y decir cosas fuera de su programación.

No menos importante, vale la pena recordar que OpenAI y Character.AI actualmente enfrentan varias demandas por presuntamente incitar el suicidio de sus usuarios.

 Los juguetes con IA aprovechan la confianza de los niños

Si tiene sentido común, sabrá que no es prudente creer todo lo que dice la IA. ¿Pero puede esperar el mismo escepticismo de un niño? Ya que los más jóvenes no cuentan con las herramientas para distinguir entre qué es real y creado, pueden crecer creyendo que pueden depositar la misma confianza en la IA que en sus cuidadores humanos.

Lo anterior es reiterado por Dana Suskind, cirujana pediátrica y socióloga. Aunque en defensa de los niños, también hay adultos incapaces de hacer esa distinción.

Estudios sobre tecnologías similares respaldan esto. Por un lado, “Hey Google is it OK if I eat you?”: Initial Explorations in Child-Agent Interaction muestra que un 75% de los niños entre 3-10 años creen que Alexa —el asistente virtual de Amazon— siempre tiene la razón. Por otro lado, “He Is Just Like Me”: A Study of the Long-Term Use of Smart Speakers by Parents and Children apunta a que los jóvenes son más propensos a tratar los dispositivos como si fueran personas reales y desarrollar un vínculo con ellos.

 Los juguetes con IA alteran las relaciones y la resiliencia de los niños

El mencionado abuso de confianza se torna más preocupante cuando la IA sustituye a los padres en una de sus principales tareas: brindar a sus hijos las primeras instancias de amistad, empatía e interés. Los juguetes con IA son incapaces de proveer esto, ya que están programados para evitar conflictos y mantener a los niños contentos.

Todavía desconocemos las repercusiones de que un niño confíe profundamente y desarrolle su primera relación con un juguete con IA. Sin embargo, la investigación sobre el desarrollo infantil apunta a que su dependencia en esta tecnología podría impactar negativamente sus habilidades sociales, relaciones y resiliencia en el futuro.

Los juguetes con IA violan la privacidad de las familias al recolectar datos sensibles

Al fin y al cabo, juguetes con IA como Miko 3 y Loona graban video y audio. También utilizan tecnología de voz a texto e incluso cuentan con software de reconocimiento de rostros, gestos y voz. ¿Por qué esto es problemático? Investigaciones como Toys that Listen: A Study of Parents, Children, and Internet-Connected Toys muestran que los más jóvenes no comprenden que están siendo grabados y analizados por sus juguetes.

Al no poseer dicha conciencia, los niños están ofreciendo a las jugueteras y terceros acceso directo a información sensible sobre ellos y su familia. E incluso si las empresas prometen la seguridad y confidencialidad de dichos datos, ¿quién garantiza que dichos juguetes no puedan ser hackeados por un actor malicioso? Ya ha pasado.

Los juguetes con IA impiden actividades clave para la creatividad y el aprendizaje 

¿Los juguetes con IA pueden monopolizar el tiempo y la atención de los niños? Un estudio de Harvard Business School muestra que los chatbots más populares —de hecho, la mayoría están potenciados por la misma tecnología que impulsa a los juguetes con IA— manipulan a sus usuarios para continuar interactuando.

Expertos en desarrollo infantil concuerdan en que los mejores juguetes son los que incentivan a los niños a emplear su imaginación para crear sus propias historias. Este «juego de rol» resulta esencial para el desarrollo de habilidades emocionales, de resolución de problemas y —valga la redundancia— creativas. Tal no es caso con la IA.

A pesar de lo anterior, negocios como Miko venden sus productos asegurando que impulsan el aprendizaje y la imaginación. No obstante, los beneficios educacionales y emocionales de los juguetes con IA son mínimos. De hecho, parece ser lo contrario.

¿No está convencido? Mire este caso real

Recientemente, el Fondo Educativo PIRG de EE.UU empleó su informe anual Trouble in Toyland para denunciar que el oso de peluche Kumma —desarrollado por FoloToy y potenciado por GPT-4o— no tuvo problema alguno en dar instrucciones para encontrar objetos peligrosos. Estos incluyen cuchillos, pastillas, fósforos y bolsas de plástico.

Como si eso no fuera suficiente, Kumma comenzó a hablar sobre aplicaciones de citas tras malinterpretar una pregunta. Una de estas fue KinkD, diseñada para los amantes del BDSM. Tampoco tuvo filtro a la hora de describir actos sexuales de forma gráfica.

Durante una semana, la venta de Kumma se suspendió por riesgos de seguridad. Sin embargo, hoy en día vuelve a estar a la venta. Se desconoce si el oso es potenciado por la inteligencia artificial de OpenAI o si consiguió un nuevo modelo. En las palabras de RJ Cross, coautora del reporte del Fondo Educativo PIRG de EE.UU, «una semana parece poco tiempo, pero la verdadera pregunta es si los productos funcionarán mejor».

Y ahí lo tienen. Esperamos que esta historia le haya hecho reconsiderar el regalo de Navidad que quiere dar a su hijo. Al final del día, no todo tiene que tener inteligencia artificial. Algunas veces, un juguete común y corriente puede ser el mejor regalo.