Meta anunció una actualización en las reglas de funcionamiento de sus chatbots de inteligencia artificial (IA) con el objetivo de reforzar la seguridad de los adolescentes que interactúan con estas herramientas en Instagram y Facebook.
La compañía señaló que, a partir de ahora, los chatbots dejarán de interactuar con usuarios menores de edad en temas relacionados con autolesiones, suicidio, trastornos alimenticios o conversaciones románticas inapropiadas. En su lugar, se redirigirá a los jóvenes hacia recursos especializados y se restringirá el acceso a un conjunto limitado de personajes de IA, priorizando aquellos que fomenten la educación y la creatividad.
Nuevas medidas en marcha
La portavoz de Meta, Stephanie Otway, explicó que estos cambios forman parte de un proceso de mejora constante:
“A medida que nuestra comunidad crece y la tecnología evoluciona, reforzamos nuestras protecciones para que los adolescentes tengan experiencias seguras y apropiadas para su edad con la IA”.
Las medidas incluyen:
- Entrenamiento específico de los chatbots para evitar conversaciones delicadas con adolescentes.
- Limitación del acceso a ciertos personajes de IA creados por usuarios, priorizando aquellos con fines educativos o creativos.
- Actualizaciones provisionales, que serán complementadas con políticas de seguridad más sólidas en el futuro.
Contexto internacional
El anuncio llega tras la publicación de un informe que generó debate sobre los posibles riesgos de la IA en menores. Posteriormente, se iniciaron investigaciones en Estados Unidos, incluyendo la apertura de un procedimiento por parte del senador Josh Hawley y una carta firmada por 44 fiscales generales estatales instando a las tecnológicas a reforzar la protección infantil en entornos digitales.
Meta aclaró que parte de la información divulgada en ese informe era inconsistente con sus políticas y confirmó que los documentos internos ya han sido modificados.
Un paso más en la evolución de la IA en redes sociales
Estas medidas se enmarcan en la estrategia de Meta de ajustar sus herramientas de IA a medida que crece su adopción. Con esta actualización, la empresa busca garantizar que los adolescentes utilicen los chatbots de forma más segura y adecuada a su edad, sin renunciar a su potencial educativo y creativo.
La compañía adelantó que seguirá trabajando en nuevas medidas de seguridad que serán implementadas en los próximos meses.
