El verdadero peligro de la IA

 

El verdadero peligro de la IA no es que pueda subyugarnos. Aunque los medios de comunicación hablan de ese momento porvenir en que seremos sometidos por la IA. Ese no es el peligro. Quienes sí podrían dominarnos, o más exactamente, podrían actualizar sus métodos de dominio, de control, de subyugación, son los interesados en propagar la idea de una superinteligencia. Ese es el verdadero peligro, que surja un nuevo método de control social.

Las redes sociales ponen en boca de respetables científicos frases apocalípticas. No hace falta molestarse en confirmar la autenticidad de tales afirmaciones; si son respetables científicos de la computación, simplemente, no pueden haberlas dicho. Ellos saben que la IA es un algoritmo computacional, frío, neutro, indiferente —como todo algoritmo.

Los algoritmos computacionales son conjuntos de instrucciones elementales ejecutadas en secuencia. Las IA son algoritmos, tal como cualquier otro algoritmo. De esa secuencia de instrucciones elementales no surge ni conciencia, ni ética, ni psique alguna.

El contacto usual con la IA, el contacto que tienen ahora, a diario, miles de personas, es con los Grandes Modelos de Lenguaje (Chat GPT, Gemini, DeepSeek). La gente hace preguntas y recibe respuestas —y se asombra con las respuestas. Antes hacíamos lo mismo, hacíamos preguntas —a un buscador web— y recibíamos respuestas (y no nos asombrábamos). En el caso de los buscadores (como el viejo Bing o Google Search), éstos devuelven artículos, posts, enlaces, todo referente al tema de la pregunta. De allí en adelante es responsabilidad nuestra ver esos resultados, comparar, escoger, entresacar.

¿Qué ha cambiado? El Modelo de Lenguaje busca —de manera más ingeniosa que el simple buscador— y es capaz de devolvernos una respuesta menos cruda, predigerida, donde ya ha entresacado de todos los artículos, posts y enlaces, referentes al tema de la pregunta o prompt. La IA, al igual que el buscador clásico, no ha inventado. La IA ha recombinado frases. El algoritmo está armado de patrones de recombinación, que se descubren en base a la enorme cantidad de texto a la cual es expuesto ese algoritmo.

Recombinador de frases, mezclador probabilístico de palabras y frases (con alta probabilidad de hacer combinaciones aceptables), eso es el Gran Modelo de Lenguaje. Más nada.

¿Y cómo pueden controlarnos? Si nos hacen creer que se trata de una verdadera inteligencia, si nos hacen creer que el mezclador de frases piensa, que es infalible, benevolente, superior… Si comenzamos aceptando que es “palabra de Dios”, terminaremos diciendo “te alabamos, Señor". Ese es el verdadero peligro.