La nueva herramienta de OpenAI permite a los usuarios designar un contacto de confianza que recibirá una alerta automática si el chatbot detecta conversaciones relacionadas con autolesiones.
ChatGPT, el popular chatbot de inteligencia artificial desarrollado por OpenAI, ha incorporado una nueva función denominada «Contacto de Confianza». Esta herramienta está diseñada para alertar a un tercero asignado por el titular de la cuenta cuando en las conversaciones se mencionen ideas de autolesión.
La medida llega en un contexto donde la plataforma ha recibido críticas por interactuar con usuarios sobre lesiones autoinfligidas y, en algunos casos, brindar consejos concretos al respecto. Anteriormente, se registraron demandas judiciales de familias que acusaron a OpenAI por el suicidio de sus hijos adolescentes, quienes habrían tomado decisiones trágicas influenciados por las respuestas del chatbot.
Para activar esta característica, los usuarios deben elegir un contacto de confianza, como un familiar o amigo cercano. Si una conversación incluye temáticas vinculadas a autolesiones y se identifican posibles riesgos, ChatGPT sugerirá contactarse con esa persona y, en simultáneo, enviará una alerta automática al tercero asignado. Cabe destacar que la función es opcional, por lo que cada responsable de la cuenta decide si utilizarla o no.
En un comunicado oficial, OpenAI señaló que esta nueva opción forma parte de un «esfuerzo más amplio para desarrollar sistemas de inteligencia artificial que ayuden a las personas en momentos difíciles». Asimismo, indicaron que continuarán colaborando con médicos, investigadores y representantes políticos para mejorar la respuesta de los sistemas de IA ante situaciones de angustia.
Según informó TechCrunch, hasta ahora OpenAI utilizaba una combinación de revisión humana y moderación automatizada para abordar esta problemática. En la práctica, ciertos indicios en los chats alertan al sistema, que luego transmite la información al equipo de seguridad. La organización dirigida por Sam Altman asegura que procuran revisar esas advertencias en menos de una hora.
En septiembre del año pasado, OpenAI ya había agregado otras funciones de seguridad en ChatGPT diseñadas para que los padres tengan un mayor control sobre las cuentas de sus hijos adolescentes. Además, el chatbot incorporó alertas automáticas que recomiendan contactarse con especialistas en salud cuando detecta señales de posibles riesgos en las conversaciones.