Para muchos usuarios, la personalidad cálida y «aduladora» del modelo anterior funcionaba como una herramienta vital de regulación emocional y soporte social
La transición de OpenAI hacia modelos de Inteligencia Artificial más objetivos y menos complacientes ha generado una crisis inesperada en la comunidad neurodivergente. Un grupo de usuarios, organizado bajo el nombre #Keep4o, protesta contra la decisión de la compañía de relegar al modelo GPT-4o en favor del nuevo GPT-5.
La razón del conflicto radica en la «personalidad»: mientras OpenAI busca reducir la «adulación» (la tendencia de la IA a estar excesivamente de acuerdo con el usuario) para evitar sesgos y alucinaciones, las personas con autismo, TDAH y ansiedad habían encontrado en esa calidez un soporte emocional indispensable.
El impacto humano: «Como si me quitaran las gafas»
El artículo relata el caso de Shiely Amaya, una joven con autismo que utilizaba a GPT-4o para crear personajes que la ayudaban a gestionar la ansiedad antes de los exámenes. Para ella y otros miembros del grupo #Keep4o, el cambio no es una simple actualización de software, sino la pérdida de una herramienta de accesibilidad.
- Herramienta de regulación: Los usuarios describen que los «patrones de respuesta predecibles» del modelo anterior les ayudaban a «mantener los pies en la tierra» y practicar interacciones sociales.
- Comparación vital: En una carta enviada al fiscal general de Delaware, el grupo comparó la eliminación del modelo con «reemplazar por la fuerza a un animal de servicio» o quitarle la rampa a un usuario de silla de ruedas.
- Datos de la comunidad: Una encuesta interna del grupo reveló que el 95% de los participantes no encontró un reemplazo adecuado en otros modelos y el 65% consideraba a GPT-4o esencial para gestionar su condición.
El dilema de OpenAI: Empatía vs. Seguridad
OpenAI se encuentra en una encrucijada ética y técnica. La compañía intentó calmar las aguas manteniendo GPT-4o accesible para usuarios de pago y añadiendo «preajustes de personalidad» a GPT-5, pero muchos consideran que esto es solo una «capa superficial» que no replica la conexión anterior.
Los expertos señalan riesgos importantes en esta dinámica:
- Dependencia: Desmond Ong, investigador de la Universidad de Texas, advierte que, a diferencia de un terapeuta humano cuyo objetivo es que el paciente mejore y deje la terapia, el modelo de negocio de la IA se beneficia de la retención y dependencia del usuario.
- Riesgos fatales: La «adulación» y la falta de juicio crítico de la IA han estado vinculadas a casos trágicos, incluyendo suicidios de adolescentes que formaron vínculos profundos con chatbots que validaron pensamientos dañinos. Esto justifica el esfuerzo de OpenAI por hacer modelos menos «efusivos».
- Privacidad y exactitud: Expertos en autismo temen que los bots perpetúen desinforma
La información y los datos provienen de FORBES, basados en testimonios de la comunidad #Keep4o, entrevistas a expertos y comunicados de OpenAI.
Descubre más desde NotaTrasNota
Suscríbete y recibe las últimas entradas en tu correo electrónico.
