El gobernador de California Newsom veta proyecto de ley SB 1047 para prevenir desastres de IA.
El gobernador de California, Gavin Newsom, ha vetado el proyecto de ley SB 1047, cuyo objetivo es prevenir que los actores malintencionados utilicen la inteligencia artificial para causar «daños críticos» a las personas. La Asamblea del Estado de California aprobó la legislación por un margen de 41 a 9 el 28 de agosto, pero varias organizaciones, incluida la Cámara de Comercio, instaron a Newsom a oponerse a la legislación. En su mensaje de veto del 29 de septiembre, Newsom declaró que el proyecto de ley tiene «buenas intenciones» pero «no considera si un sistema de IA se implementa en entornos de alto riesgo, implica tomar decisiones críticas o utiliza datos confidenciales». En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre y cuando un sistema grande las implemente”.
La SB 1047 habría responsabilizado a los desarrolladores de modelos de IA por adoptar protocolos de seguridad que detendrían los usos catastróficos de su tecnología. Esto incluye medidas preventivas como pruebas y evaluación de riesgos externa, así como un «apagado de emergencia» que detendría por completo el modelo de IA. Una primera infracción costaría un mínimo de 10 millones de dólares y 30 millones de dólares por infracciones posteriores. Sin embargo, el proyecto de ley ha sido revisado para eliminar la capacidad del fiscal general del estado de demandar a las empresas de inteligencia artificial por prácticas negligentes, a menos que ocurra un evento catastrófico. Las empresas solo estarían sujetas a medidas cautelares y podrían ser demandadas si su modelo causara un daño crítico.
Esta ley se aplicaría a los modelos de IA cuyo funcionamiento cueste al menos 100 millones de dólares y su entrenamiento de 10^26 FLOPS. También cubriría proyectos derivados en los casos en que un tercero invirtiera $10 millones o más en el desarrollo o modificación del diseño original. Cualquier empresa que haga negocios en California estaría sujeta a las reglas si cumple con los demás requisitos. Al abordar el enfoque del proyecto de ley en los sistemas a gran escala, Newsom dijo: «No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología». El mensaje de veto añade:
Al centrarse únicamente en los modelos más caros y de mayor escala, la SB 1047 establece un marco regulatorio que podría dar al público una falsa sensación de seguridad sobre el control de esta tecnología de rápido movimiento. Los modelos más pequeños y especializados pueden parecer peligrosos o incluso más peligrosos que los modelos a los que se dirige la SB 1047, con el posible perjuicio de restringir la innovación misma que impulsa el progreso para el bien público.
La versión anterior de la SB 1047 habría creado un nuevo departamento llamado Frontier Model Division para supervisar y hacer cumplir las reglas. En cambio, el proyecto de ley fue enmendado antes de una votación del comité para poner la gobernanza en manos de una Junta Modelo Fronteriza dentro de la Agencia de Operaciones Gubernamentales. Los nueve miembros serían designados por el gobernador y la legislatura estatal.
El proyecto de ley enfrentó un camino complicado hasta una votación final. La SB 1047 fue escrita por el senador estatal de California Scott Wiener, quien relató TechCrunch: “Tenemos una historia con la tecnología de esperar a que sucedan cosas malas y luego retorcernos las manos. No esperemos a que pase algo malo. Salgamos adelante». Los destacados investigadores de IA Geoffrey Hinton y Yoshua Bengio apoyaron la legislación, al igual que el Centro para la Seguridad de la IA, que ha hecho sonar la alarma sobre los riesgos de la IA durante el año pasado.
«Permítanme ser claro, estoy de acuerdo con el autor, no podemos darnos el lujo de esperar a que ocurra una catástrofe importante antes de tomar medidas para proteger al público», dijo Newsom en el mensaje de veto. La declaración continúa:
California no abdicará de su responsabilidad. Se deben adoptar protocolos de seguridad. Se deben implementar barreras de seguridad proactivas y las consecuencias graves para los malos actores deben ser claras y ejecutables. Sin embargo, no estoy de acuerdo con que, para mantener al público seguro, debamos conformarnos con una solución que no se base en un análisis empírico de la trayectoria de los sistemas y capacidades de la IA. En última instancia, cualquier marco para una regulación eficaz de la IA debe seguir el ritmo de la tecnología misma.
La SB 1047 ha generado una fuerte oposición en todo el espacio tecnológico. El investigador Fei-Fei Li criticó el proyecto de ley, al igual que el científico jefe de IA de Meta, Yann LeCun, por limitar el potencial para explorar nuevos usos de la inteligencia artificial. El grupo comercial que representa a gigantes tecnológicos como Amazon, Apple y Google dijo que la SB 1047 limitaría nuevos desarrollos en el sector tecnológico del estado. La firma de capital riesgo Andreeson Horowitz y varias nuevas empresas también cuestionaron si el proyecto de ley imponía cargas financieras innecesarias a los innovadores en IA. Anthropic y otros opositores al proyecto de ley original solicitaron enmiendas que fueron adoptadas en la versión de la SB 1047 que fue aprobada por el Comité de Asignaciones de California el 15 de agosto.
Este artículo apareció originalmente en Engadget en
FUENTE
