Las empresas de IA han respaldado un proyecto de ley de California que requeriría que el contenido generado por IA tenga una marca de agua, mientras que un segundo proyecto de ley centrado en la seguridad es menos popular, pero encontró el apoyo de Elon Musk.
Hay dos de varias docenas de proyectos de ley presentados en California (muchos de los cuales ya han sido abandonados) que buscarían regular la IA. El primero es AB 3211, que obligaría a las empresas de tecnología a etiquetar el contenido generado por IA. El segundo, SB 1047, requeriría que los desarrolladores de IA prueben la seguridad de sus modelos.
Este último proyecto de ley ha sido más controvertido, lo que no sorprende, ya que exigiría que las empresas que fabrican IA asuman la responsabilidad de la seguridad de sus sistemas.
La primera es más fácil de implementar, pero podría resultar útil para frenar el flujo de información errónea, que actualmente está a la vanguardia en Estados Unidos antes de las elecciones presidenciales.
Pruebas de seguridad de IA
La SB 1047 requeriría que los desarrolladores gasten más de $100 millones para crear un modelo de IA para ejecutar pruebas de seguridad, someterse a auditorías externas e implementar barreras de seguridad que incluyan interruptores de apagado o riesgos de acciones regulatorias. Ese proyecto de ley ha encontrado menos apoyo entre la industria tecnológica, pero ahora cuenta con patrocinadores de alto perfil.
En una publicación en X, Musk dijo que California debería “probablemente aprobar” el proyecto de ley SB 1047. “Durante más de 20 años, he sido un defensor de la regulación de la IA, del mismo modo que regulamos cualquier producto/tecnología que sea un riesgo potencial para el público”.
Musk es un poco ajeno a la industria de la IA. Musk, uno de los cofundadores de OpenAI, ahora está demandando a la compañía después de que ésta cambió su estructura inicial como una organización sin fines de lucro. Ha creado su propia empresa de inteligencia artificial, xAI.
El proyecto de ley también encontró el apoyo de Geoffery Hinton, el “padrino de la IA” que el año pasado abandonó Google en medio de sus propias preocupaciones sobre el rápido ritmo de desarrollo.
Al igual que el proyecto de ley sobre marcas de agua, la SB 1047 ha recibido una serie de enmiendas tras la presión de la industria. A principios de este mes, Scott Wiener, el senador que presentó la SB 1047, anunció que había pasado una etapa clave del comité, pero con una gran cantidad de cambios influenciados por los actores de la industria, en particular Anthropic.
Wiener admitió en ese momento: “Aunque las enmiendas no reflejan el 100% de los cambios solicitados por Anthropic, líder mundial tanto en innovación como en seguridad, aceptamos una serie de enmiendas muy razonables propuestas”.
Los cambios incluyeron eliminar las sanciones penales por perjurio en favor de las civiles y reducir la capacidad de los reguladores locales para ver las sanciones a menos que se haya producido un daño o exista una amenaza inminente a la seguridad pública. Los críticos dijeron que las enmiendas equivalían a “diluir” las regulaciones.
La SB 1047 ahora será votada por la asamblea estatal en pleno a finales de este mes; si se aprueba, el gobernador Gavin Newsom debe firmarlo o optar por vetarlo antes de finales de septiembre.
IA de marca de agua
AB 3211 ya pasó las dos primeras rondas de aprobaciones de votación y, al igual que el otro proyecto de ley, ahora debe ser considerado por el Senado estatal a fines de este mes y luego promulgado por el gobernador Gavin Newsom a fines de septiembre.
“Las nuevas tecnologías y estándares pueden ayudar a las personas a comprender el origen del contenido que encuentran en línea y evitar la confusión entre el contenido generado por humanos y el contenido fotorrealista generado por IA”, escribió Jason Kwon, director de estrategia de OpenAI, en una carta enviada al autor del proyecto de ley, según Reuters.
El proyecto de ley sobre marcas de agua había encontrado previamente oposición en el sector tecnológico, en particular del organismo industrial Software Alliance (BSA, anteriormente Business Software Alliance”, que cuenta entre sus miembros con Microsoft, OpenAI y Adobe.
La BSA escribió a los reguladores de California a principios de este año diciendo que AB 3211 era “inviable”, en parte debido a sus estrictos plazos de notificación para fallas en las marcas de agua, aunque la carta enfatizaba que la industria no estaba totalmente en contra de la idea de las marcas de agua como un aspecto de la transparencia.
Desde entonces, el proyecto de ley ha sido modificado para eliminar dichas notificaciones. Los informes sugieren que más allá de OpenAI, Microsoft y Adobe ahora apoyan ese proyecto de ley.