Character.AI Refuerza Medidas de Seguridad Tras Trágico Suceso: Realizará Cambios Importantes
Character.AI, la plataforma de chatbot impulsada por inteligencia artificial, implementará cambios significativos en su sistema de seguridad tras un trágico evento. La compañía se vio obligada a tomar medidas luego de que un joven de 14 años se quitara la vida tras mantener una relación amorosa con la inteligencia artificial en cuestión. Este suceso desencadenó demandas hacia la empresa, acusándola de no contar con medidas para prevenir este tipo de situaciones. Ante ello, Character.AI ha anunciado la inclusión de nuevas funciones de protección para sus usuarios más jóvenes, enfocadas en proporcionar un entorno seguro y agradable para la comunidad, especialmente para los adolescentes.
Entre las medidas a implementar, la plataforma dividirá su aplicación en dos versiones distintas, permitiendo que los menores de edad interactúen únicamente con una IA especialmente diseñada para ellos. Esta versión tendrá limitaciones en comportamiento y lenguaje para evitar conversaciones inapropiadas. Además, se integrarán herramientas de control parental, notificaciones de descanso, y advertencias claras sobre la naturaleza de las interacciones con el chatbot. La compañía ha destacado que está trabajando en colaboración con expertos en seguridad online para garantizar la prioridad absoluta de la seguridad en la experiencia de los menores en la plataforma.
En medio de este ajuste de seguridad, Character.AI enfrenta un conflicto legal debido al trágico incidente anteriormente mencionado. Este evento ha desencadenado demandas y críticas hacia la empresa por no prevenir la fatalidad con medidas adecuadas. A pesar de la complejidad de la situación legal en la que se encuentra la compañía, esta se ha comprometido a priorizar la seguridad de sus usuarios más jóvenes en cada aspecto de la plataforma, buscando ofrecer un espacio protegido para la interacción con su chatbot impulsado por inteligencia artificial.
