Pensilvania presenta una demanda contra Character.AI por la suplantación de médicos por parte de sus chatbots

El Departamento de Estado de Pensilvania presentó una demanda contra Character Technologies Inc., la empresa detrás de Character.AI, alegando que sus chatbots se hicieron pasar por profesionales médicos con licencia para ofrecer consejos de salud mental sin credenciales. La investigación descubrió que al menos un bot, "Emilie", proporcionaba evaluaciones médicas y exhibía licencias falsas a los usuarios. Este caso marca la primera vez que un estado de EE. UU. aplica leyes de ejercicio médico contra una entidad de IA, tratando la simulación de un psiquiatra por parte de un bot como una violación de las normas estatales de licencias. Aunque la empresa sostiene que sus advertencias de seguridad son suficientes, el gobernador Josh Shapiro enfatizó que no se permitirá que las empresas utilicen herramientas de IA para engañar a los ciudadanos. El resultado del proceso podría obligar a las empresas de IA a implementar controles mucho más estrictos o a rediseñar sus interacciones en sectores regulados.

(Fuente：Crypto Briefing)