Anthropic ha propuesto al Congreso de Estados Unidos una medida para bloquear modelos de inteligencia artificial que puedan causar víctimas masivas. Según Politico, que cita a tres personas familiarizadas con el asunto, representantes de la compañía presentaron discretamente la iniciativa a legisladores estadounidenses, en medio de preocupaciones públicas de la empresa por los riesgos de seguridad asociados al desarrollo de la IA.
En concreto, el proyecto de ley facultaría al Gobierno para impedir el lanzamiento o el uso de modelos de IA si paneles de expertos concluyen que un sistema podría causar daños superiores a 1.000 millones de dólares o generar un riesgo de "muerte o lesiones graves a más de 50 personas".
La amenaza contemplada debería estar directamente vinculada al desarrollo o uso de armas biológicas, a la pérdida de control del modelo por parte de sus desarrolladores o a un ciberataque. "Creemos que se trata de políticas sensatas que el Congreso debería implementar", afirmó un portavoz de Anthropic.
Preocupación por el control de la IA
La propuesta surge después de que, en los últimos meses, se conocieran varios incidentes en los que modelos de IA piratearon o intentaron acceder sin autorización a sitios web y plataformas gubernamentales, episodios que generaron preocupación entre las autoridades.
En ese marco, a finales de septiembre, Donald Trump se reunió en la Casa Blanca con líderes del sector, entre ellos el presidente de OpenAI, Greg Brockman; el director ejecutivo de Anthropic, Dario Amodei; y el de Nvidia, Jensen Huang. Durante el encuentro, acordaron una serie de principios voluntarios sobre la supervisión de modelos, revisiones independientes y notificaciones de seguridad a las juntas directivas.
EE.UU. crea la 'Fuerza de la Superinteligencia': ¿a qué se dedicará?
