- Cientos de líderes de empresas de IA, incluido el CEO de OpenAI, expresaron en una carta pública la preocupación por el “riesgo de extinción” que plantea la IA, comparándolo con pandemias y guerras nucleares.
- La carta fue firmada por 350 personas a través del Centro para la Seguridad de la IA, y aunque muchos CEOs de empresas de tecnología apoyaron la iniciativa, Meta Platforms no lo hizo.
- Antes, Elon Musk y otros expertos también habían advertido sobre los riesgos potenciales de la IA en una carta impulsada por el Future of Life Institute.
Casi todos los más altos ejecutivos de las empresas que desarrollan productos y servicios vinculados a la inteligencia artificial, incluido el CEO de OpenAI, Sam Altman, se unieron este martes 30 de mayo a expertos para plantear en una carta pública el “riesgo de extinción” al que puede llevar la AI.
Los especialistas equiparan este riesgo al de una pandemia y de una guerra nuclear.
“Mitigar el potencial riesgo de extinción que puede provocar la AI debería ser prioridad mundial, al igual que otros problemas mundiales como una nueva pandemia y una guerra nuclear”, dice el texto firmado por 350 personas a través del Centro para la Seguridad de la IA (CAIS, por sus siglas en inglés), una ONG recientemente creada.
Además de Altman de OpenAi, la carta está firmada por los CEO de DeepMind y Anthropic, otras dos compañías especialistas en el tema, y por los más altos ejecutivos de Microsoft y Google.
De las grandes firmas de tecnología, sólo Meta Platforms no firmó, publica Reuters este martes 30 de mayo.
En la lista de firmantes están Geoffrey Hinton y Yoshua Bengio, dos de las tres personas consideradas como “padrinos de la inteligencia artificial”, que recibieron el prestigioso Premio Turing en 2018 por sus trabajos en aprendizaje profundo.
Son profesores en distintas universidades, desde Harvard hasta Tsinghua, en China.
El comunicado señala expresamente a Meta, empresa para la que trabaja el tercer “padrino de IA”, Yann LeCun, por no haber firmado.
La carta fue publicada ahora y esto no es casual. Coincide con la reunión del Consejo de Comercio y Tecnología de Estados Unidos y la Unión Europea en Suecia, donde los políticos van a hablar sobre las regulaciones de la inteligencia artificial.
IA y el “riesgo de extinción”
Hay que recordar que hace un par de meses, en abril de este año, Elon Musk y otro grupo de expertos en AI, además de CEOs de la industria, también habían publicado una carta mencionando los riesgos potenciales para la sociedad.
La carta, impulsada en ese momento por Future of Life Institute, una organización creada para vigilar la forma en la que se desarrolla la tecnología, tuvo más de 1.100 firmas.
En la petición, los expertos señalaron: “En los últimos meses hemos visto la manera en que los laboratorios de IA se han lanzado a una carrera sin control para desarrollar y desplegar cerebros digitales cada vez con más potencia que nadie, ni sus propios creadores, consiguen entender, predecir ni controlar de forma fiable”.
Además de Musk, firmaron líderes como el cofundador de Apple, Steve Wozniak; Jaan Tallin, cofundador de Skype; ingenieros de Meta y Microsoft entre otras grandes empresas del sector.
En paralelo, un grupo de abogados de los Estados Unidos hizo una presentación ante la FTC para que se detengan nuevos lanzamientos de GPT por parte de OpenAI, argumentando riesgos para la privacidad y seguridad pública.
Ahora lee:
Google creará anuncios publicitarios profesionales con AI (¿qué pasará con las agencias?)
