Las autoridades de Illinois son el primer estado en EE. UU. en prohibir oficialmente a los terapeutas de IA
El estado de Illinois se ha convertido en el primero en EE. UU. en prohibir oficialmente el uso de inteligencia artificial en el papel de psicoterapeuta. La ley fue firmada por el gobernador J.B. Pritzker, y prohíbe explícitamente ofrecer cualquier servicio de salud mental si no es un humano, sino una IA o un bot que se comunica con el cliente.
Esto es lo que sabemos
Tanto las startups que promueven "terapia barata 24/7" basadas en redes neuronales como las grandes plataformas que prueban asistentes automatizados para apoyar a los usuarios están bajo ataque. Dichos servicios ahora deben indicar claramente que el usuario está interactuando con un programa en lugar de un profesional certificado. Los infractores enfrentan multas.
La razón es la seguridad y protección de los usuarios vulnerables, especialmente los adolescentes. La ley también está destinada a prevenir una falsa sensación de "ayuda", cuando una persona piensa que está comunicándose con un profesional, pero en realidad - con un algoritmo sin responsabilidad y competencia.
El movimiento es particularmente revelador en el contexto del plan recientemente anunciado por la administración Trump para proponer una moratoria federal de 10 años sobre la regulación de la IA a nivel estatal. Illinois está desafiando efectivamente esa idea al formar su propia agenda para proteger a los usuarios vulnerables.
La ley también se presentó en medio de declaraciones de OpenAI, que anunció que estaba probando la capacidad de sus modelos para reconocer signos de enfermedad mental. La compañía también ha prometido interrumpir conversaciones inusualmente largas para reducir el costo emocional en los usuarios. Todo esto ha elevado la ansiedad: ¿podría una máquina "accidentalmente" curar - y quién es el responsable?
La decisión de Illinois podría sentar un precedente para otros estados y países, ya que el mercado de la "terapia" de IA está en auge. Y no sin consecuencias controvertidas.
Fuente: IDFPR
