Los legisladores de California prevén someter a voto la aprobación de una ley que busca regular a las empresas de inteligencia artificial (IA) en el ‘Estado Dorado’, pero que se enfrenta a la negativa de algunos políticos y empresarios tecnológicos de Silicon Valley, hogar de algunas de las empresas de IA más reputadas de Estados Unidos.
El proyecto de ley SB-1047 fue aprobado por el Senado estatal con una votación de 32 a 1 y ahora se dirigirá a una votación ante la asamblea estatal en pleno que no tiene una fecha clara, pero el final de la sesión legislativa es el 31 de agosto.
De ser aprobado, el gobernador de California, Gavin Newson, tendrá hasta el 30 de septiembre para decidir si firma o veta el proyecto. Hasta el momento no se ha posicionado ni a favor ni en contra.
La SB-1047 es una iniciativa del senador estatal demócrata Scott Wiener, que representa a San Francisco, y según sus promotores busca crear barreras de protección para evitar que los modelos de IA provoquen incidentes desastrosos.
Esta pretende exigir pruebas de seguridad para los modelos de IA más avanzados, que comprendería a aquellos cuyo desarrollo cueste más de 100 millones de dólares (unos 89,7 millones de euros) o tengan un determinado umbral de potencia informática.
Dichas pruebas serían obligatorias antes de que los modelos pudieran publicarse, y la ley otorgaría al fiscal general de California el poder de presentar cargos en contra de las empresas creadoras si estas no superan las pruebas y se determina que su tecnología representa una amenaza grave o un daño inminente.
A los impulsores de esta iniciativa les preocupa principalmente que la tecnología se esté desarrollando más rápido de lo que sus creadores puedan controlar, por lo que la legislación también exige que estos desarrolladores tengan una función que los desactive directamente si las cosas salen mal.
Sin embargo, los detractores, entre ellos tecnólogos e influyentes demócratas, como la expresidenta de la Cámara de Representantes estadounidense Nancy Pelosi, se han manifestado en contra de la aprobación, argumentando que «tendría importantes consecuencias no deseadas que sofocarían la innovación y dañarían el ecosistema de IA de Estados Unidos», según dijo Pelosi en una declaración publicada en su web el 16 de agosto.
Wiener respondió asegurando que su propuesta «apoya y alienta la innovación» y que tiene de su lado a los «padrinos» de la inteligencia artificial: Yoshua Bengio y Geoffrey Hinton (que anteriormente dirigieron la IA en Google); Lawrence Lessig, defensor del código abierto y profesor de la Facultad de Derecho de Harvard, y Stuart Russell, profesor de la UC Berkeley.
«Todos y cada uno de los grandes laboratorios de IA han prometido realizar las pruebas que la SB-1047 les exige, las mismas pruebas de seguridad que algunos ahora afirman que de alguna manera dañarían la innovación», apuntó Wiener el día siguiente al comunicado de Pelosi.
Según informó The New York Times, algunos de sus opositores temen que el proyecto de ley pueda impulsar el desarrollo de la IA hacia otros estados, justo cuando la región de la Bahía de San Francisco, que alberga a la mayor parte de empresas de IA, se está recuperando de la crisis económica que dejó la pandemia.
EFE
