Expertos y ejecutivos de la IA alertan de sus peligros y piden su paralización
La Inteligencia Artificial está ahora al alcance de todos. En los últimos meses han surgido herramienta de todo tipo y cada día surgen nuevos avances. Como siempre, la tecnología no es el problema, pero sí puede serlo el uso que le demos a la misma. Es justo lo que piensan más de 1.000 expertos en la materia entre los que se incluyen Elon Musk o Steve Wozniak, fundador de Apple, sobre los riesgos de la IA sin control.
En una carta abierta firmada y publicada por el organismo sin ánimo de lucro Future of Life Institute, más de 1.000 expertos en tecnología, IA y otras ciencias abogan por tomar una pausa y pararse a pensar en las implicaciones y riesgos de esta tecnología. En concreto abogan por una pausa «inmediata» de seis meses en el avance de los sistemas de IA más potentes que GPT-4 por posibles riesgos para la sociedad y la humanidad.
Protocolos de seguridad para para IA
Según detallan en la carta, «Los sistemas de inteligencia artificial potentes deben desarrollarse solamente una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables. Los sistemas de IA con inteligencia que compite con la humana pueden plantear riesgos profundos, como lo demuestra una extensa investigación y lo reconocen los principales laboratorios de IA»
Estos expertos aseguran que no se han establecido los protocolos de seguridad adecuados para el control de estos desarrollos y su puesta en manos del gran público. Entre los efectos nocivos se enumeran está el avance de la desinformación, la destrucción de empleo e incluso el riesgo de «pérdida de control de la civilización».
También detallan que los expertos independientes deberían aprovechar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA que son rigurosamente auditados y supervisados ??por expertos externos independientes.
También hacen un llamamiento al trabajo conjunto con los legisladores para acelerar drásticamente el desarrollo de sistemas sólidos de gobierno de IA. Quizá su afirmación en tono más “preocupante” es la que asegura que las instituciones deberán estar bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente en la democracia) que provocará la IA.
