Brad Smith de Microsoft dice que la IA podría convertirse en un arma

Los humanos deben mantener el control de las máquinas superinteligentes en todo momento para garantizar que no puedan usarse como armas, según un alto ejecutivo del importante desarrollador de inteligencia artificial Microsoft.

En una entrevista con CNBC transmitida el lunes, el presidente del gigante tecnológico, Brad Smith, advirtió que la inteligencia artificial podría "convertirse tanto en una herramienta como en un arma".

No es el único gran nombre de la tecnología que hace sonar la alarma sobre las posibles capacidades destructivas de la IA: dos de los llamados "padrinos de la IA" y los fundadores de OpenAI, creador de ChatGPT, han emitido sombrías advertencias sobre las perspectivas de la tecnología.

El director ejecutivo de Tesla, Elon Musk, ha llegado a advertir que podría ser el catalizador del fin de la humanidad.

"Creo que cada tecnología jamás inventada tiene el potencial de convertirse tanto en una herramienta como en un arma", dijo Smith a Martin Soong de CNBC. “Tenemos que asegurarnos de que la IA siga estando sujeta al control humano. Ya sea un gobierno, el ejército o cualquier tipo de organización que esté pensando en usar IA para automatizar, digamos, infraestructura crítica, debemos asegurarnos de que tenemos humanos en control, que podemos ralentizar o apagar las cosas. "

El propio Microsoft es un gran inversor en IA, ya que invirtió 10 mil millones de dólares en OpenAI a principios de este año e incorporó el chatbot generativo de IA de la compañía, ChatGPT, en su principal motor de búsqueda, Bing. El Bing actualizado ha tenido resultados mixtos para los primeros usuarios.

Smith agregó en la entrevista del lunes que debido a los riesgos potenciales involucrados con el uso de IA, Microsoft había estado abogando por que las empresas "hicieran lo correcto" y por nuevas leyes y regulaciones que garantizaran que se cumplieran los protocolos de seguridad.

"Hemos visto la necesidad de esto en otros lugares", dijo. “Imagínese que la electricidad depende de disyuntores. Subes a tus hijos a un autobús escolar sabiendo que hay un freno de emergencia. Hemos hecho esto antes con otras tecnologías. Ahora tenemos que hacerlo también con la IA”.

Con miles de millones invertidos en el desarrollo de tecnología de IA de vanguardia, muchos especulan sobre cómo alterará nuestra vida cotidiana, lo que lleva a predicciones de máquinas mortales, llamados a una mayor gobernanza de la IA y pronósticos de que el mundo pronto Vea el amanecer de una nueva era de la IA.

Sin embargo, los expertos parecen estar divididos sobre si la IA traerá un renacimiento o un fin apocalíptico para la humanidad.

En la Cumbre de Directores Generales de Yale, a la que solo se podía acceder mediante invitación a principios de este verano, casi la mitad de los directores ejecutivos encuestados en el evento dijeron que creían que la IA tiene el potencial de destruir a la humanidad en los próximos cinco a diez años.

En marzo, 1.100 destacados tecnólogos e investigadores de IA, incluidos Musk y el cofundador de Apple, Steve Wozniak, firmaron una carta abierta pidiendo una pausa de seis meses en el desarrollo de potentes sistemas de IA. Señalaron la posibilidad de que estos sistemas ya estén en el camino hacia una superinteligencia que podría amenazar a la civilización humana.

El cofundador de Tesla y SpaceX, Musk, ha dicho por separado que la tecnología golpeará a las personas "como un asteroide" y advirtió que existe la posibilidad de que "se convierta en Terminator". Desde entonces, lanzó su propia empresa de inteligencia artificial, xAI, en lo que, según él, es un intento de “comprender el universo” y evitar la extinción de la humanidad.

Sin embargo, no todo el mundo está de acuerdo con la opinión de Musk de que las máquinas superinteligentes podrían acabar con la humanidad.

El mes pasado, más de 1.300 expertos se reunieron para calmar la ansiedad en torno a la IA, creando una horda de “señores de robots malvados”, mientras que uno de los tres llamados Padrinos de la IA ha calificado las preocupaciones de que la tecnología se convierta en una amenaza existencial como “absurdamente ridículas”.

El alto ejecutivo de Meta, Nick Clegg, también intentó calmar las preocupaciones sobre la tecnología en una entrevista reciente, insistiendo en que los grandes modelos de lenguaje en su forma actual son "bastante estúpidos" y ciertamente no lo suficientemente inteligentes todavía como para salvar o destruir la civilización.

Sin embargo, no es sólo la perspectiva de que máquinas malvadas se apoderen del mundo lo que está causando preocupación por el auge de la IA.

Según un informe reciente de la empresa de software ServiceNow y la editorial educativa Pearson, la IA podría desplazar hasta 4,9 millones de puestos de trabajo en Estados Unidos en los próximos cuatro años.

Mientras tanto, el director ejecutivo de IBM, Arvind Krishna, dijo en mayo que la IA podría realizar hasta el 50% de los trabajos de oficina "repetitivos" antes de que termine la década. Sus comentarios se produjeron cuando el gigante informático reveló planes para suspender la contratación como parte de una estrategia más amplia que podría hacer que IBM reemplace 7.800 puestos de trabajo con inteligencia artificial.

En una conferencia de tecnología en Ginebra, Suiza, el mes pasado, Grace, un robot médico vestido con uniforme de enfermera, respondió a una pregunta en un evento de inteligencia artificial del viernes sobre si su existencia "destruiría millones de empleos".

"Trabajaré junto a los humanos para brindar asistencia y apoyo y no reemplazaré ningún trabajo existente", insistió.

Cuando se trataba de la perspectiva de que la IA hiciera redundantes ciertos trabajos realizados por humanos, Smith de Microsoft adoptó la misma postura que Grace: dijo que imaginaba que la tecnología complementaría a los trabajadores humanos en lugar de reemplazarlos por completo.

“Es una herramienta que puede ayudar a la gente a pensar de forma más inteligente y rápida. El mayor error que la gente podría cometer es pensar que esta es una herramienta que les permitirá dejar de pensar”, dijo a CNBC. "Es por eso que en Microsoft llamamos copilotos a nuestros servicios".

Smith argumentó que los trabajadores humanos seguirían siendo necesarios cuando se utiliza la IA para gestionar la producción de la tecnología.

"La capacidad de tomar un documento de Word y convertirlo en una diapositiva de PowerPoint no significa que no debas leer las diapositivas de PowerPoint antes de presentarlas", dijo. "De hecho, deberías entrar, editarlos y hacerlos perfectos".