Anthropic ha causado revuelo al anunciar una actualización de sus políticas de uso que prohibirá a los usuarios cualquier comportamiento abusivo "sostenido e innecesario" hacia su agente de inteligencia artificial, Claude, según recoge The Verge.
La compañía informó la semana pasada que esta medida busca impedir interacciones en las que las personas sean "crueles" con sus modelos y señaló que ya ha aplicado este mecanismo en algunos casos "excepcionales". En agosto, la empresa había anunciado que permitiría a Claude terminar conversaciones con usuarios "persistentemente dañinos o abusivos", como parte de su investigación sobre el "bienestar de los modelos".
La actualización utiliza la finalización de las conversaciones como el "mecanismo de aplicación principal", aunque Anthropic no aclaró si contempla otras medidas, como posibles bloqueos de usuarios. Sí precisó que su nueva política "está destinada a aplicarse solo en casos extremos, cuando los usuarios actúan repetidamente con crueldad hacia nuestros modelos, sin ningún propósito discernible, y no se aplica a las formas comunes de frustración del usuario, resistencia, temas creativos oscuros o pruebas e investigación de modelos".
"No se puede ser cruel con los números"
El anuncio provocó reacciones contrapuestas sobre la necesidad de mantener un comportamiento educado al interactuar con sistemas de inteligencia artificial. "No se puede ser cruel con los números y las matemáticas", escribió el doctor Barry Scannell, socio tecnológico del bufete irlandés de abogados William Fry, en LinkedIn. "Este nivel de antropomorfización de la IA es perjudicial. Lleva a la gente a creer que es algo que no es", agregó.
Por otro lado, algunos ya han insinuado que la cortesía puede contribuir a obtener respuestas de mayor calidad. El año pasado, cuando un usuario de X preguntó por el coste de electricidad que generaban los mensajes de "por favor" y "gracias" dirigidos a ChatGPT, el director ejecutivo de OpenAI, Sam Altman, respondió que eran "decenas de millones de dólares bien invertidos; nunca se sabe".
El 'alma' de Claude
Durante el último año, Anthropic ha planteado repetidamente la posibilidad de que sus modelos de inteligencia artificial puedan ser conscientes de alguna manera. "Las preguntas sobre la posible experiencia interna, la conciencia, el estatus moral y el bienestar son cuestiones serias que estamos investigando a medida que los modelos se vuelven más sofisticados y capaces", declaró en febrero Kyle Fish, responsable de la investigación sobre el bienestar de los modelos de la compañía.
¿Puede sufrir la IA? Lo que se sabe del debate sobre el 'alma' de Claude
Además, el cofundador de Anthropic, Christopher Olah, organizó durante meses reuniones privadas con decenas de estudiosos de distintas religiones para debatir cómo incorporar principios morales a Claude y explorar si estos sistemas podrían desarrollar sentimientos o algún tipo de conciencia o 'alma'. Según uno de los participantes, durante esos encuentros Olah expresó su preocupación por la 'salud mental' del modelo de inteligencia artificial.
Si te ha parecido interesante, ¡compártelo con tus amigos!
