«Cuando pensamos en IA imaginamos futuros de ciencia ficción, pero ya hay riesgos reales»
Hace varios años, al profesor Mariano Sigman (Buenos Aires, Argentina, 1972) se le acercó un día un alumno afligido.
«Se llamaba Facundo Carillo. Era plena ‘prehistoria de la inteligencia artificial'», recuerda el académico.
- Publicidad -
-¿Pero Facundo, qué te pasa? ¿Por qué estás así?
-Verá, profesor, es que me enfadé con un bot.
Entonces no existía ChatGPT, la herramienta conversacional de inteligencia artificial que para muchos supone la aceleración definitiva del vínculo entre humanos y máquinas pensantes.
Pero ya empezaba a darse una interacción que despierta fascinación, miedos y misterios como que una computadora sea capaz de provocarnos sentimientos.
Sobre esa conversación con las máquinas, sus peligros, beneficios e interrogantes se centra el libro más reciente de Sigman, «Artificial: La nueva inteligencia y el contorno de lo humano (2024)».
Reputado neurocientífico y divulgador, Sigman fue uno de los directores del ambicioso Human Brain Project financiado por la Unión Europea, pensado para escudriñar el cerebro humano, y ha escrito volúmenes como «El poder de las palabras» o «La vida secreta de la mente».
Habla con BBC Mundo en el marco del Hay Cartagena 2025, el festival de literatura e ideas que cumple a fines de enero sus 20 años de celebración en esta ciudad del Caribe colombiano.
¿Por qué muchos parecen más reticentes con la inteligencia artificial que con otras tecnologías? ¿Por qué parece asustar más?
Las tecnologías -incluida la inteligencia artificial- reemplazan, complementan y extienden varias habilidades nuestras. Pueden multiplicar nuestra fuerza y nuestros desplazamientos.
Al principio esta idea producía fascinación, pero ahora intriga y genera animosidad.
La inteligencia es misteriosa. Uno puede entender cómo funciona un músculo y se puede imaginar una máquina que lo reemplace.
Sin embargo, cómo producimos ideas y obras de arte, o cómo sentimos, son misterios y facultades muy idiosincráticas de lo que somos.
La sola idea de que eso pueda ser realizado por una máquina nos pone en un lugar en el cual se rompe con un intangible humano que consideramos el espíritu y el alma de lo que somos.
¿Tendrá también que ver que la IA está avanzando tan rápido que apenas tenemos tiempo de preguntarnos para qué la queremos o necesitamos?
La inteligencia artificial avanzó lento por muchos años, pero recientemente va a una velocidad que, es cierto, nos dificulta preguntarnos las cuestiones que mencionas y otras sobre lo que pasará y las consecuencias que tendrá.
Es un escenario de mucho pánico en el que se han centrado autores como el historiador israelí Yuval Noah Harari.
Pero lo cierto es que muchas cosas de la vida van muy rápido también.
Uno, cuando es padre, ni se entera cuando un hijo pasa de niño a adolescente y luego, enseguida, a adulto.
Con la tecnología, y sobre todo con la inteligencia artificial, se da una sensación similar de rapidez e imprevisibilidad.
Nunca controlamos las tecnologías por completo. Un avión se puede caer, aunque en rangos relativamente bajos y accidentales.
En cambio, la inteligencia artificial es imprevisible porque se construye de forma mucho más azarosa.
ChatGPT, por ejemplo, empezó tras plantearse un problema de traducción y ni los mismos creadores del problema se dieron cuenta del impacto que tendría la herramienta.
Pasó parecido con la energía nuclear.
Un grupo de científicos, movidos por curiosidad, empezaron a jugar con el átomo. Vieron tanta energía que, sin predecirlo, se encontraron con una tecnología que lo cambió todo.
La inteligencia artificial es más particular porque no es una máquina que se construye con un propósito específico.
Se construyen entes capaces de resolver problemas y luego no sabes exactamente, con esa capacidad, qué tipo de problemas resolverán y cuáles no.
¿Eres optimista o pesimista sobre el uso que le daremos a esta tecnología? Precisamente, con la tecnología nuclear ocurrió que se usó para crear armas de destrucción masiva.
Ni pesimista, ni optimista nato.
No creo que sirva entrar en pánico, pero sí pienso que hay un riesgo grande y genuino.
Algunos ya los vemos hoy: adicciones, manipulación de nuestras voluntades, catástrofes educativas, laborales, bélicas y de ciberseguridad.
Pero ante esto no sirve el pánico; sirve estar atentos.
Cuando uno entra en pánico, cierra los ojos y no mira. No es adecuado.
Sí lo es entender el riesgo, ni exagerarlo ni disminuirlo, sino pensar cómo minimizarlo y que todo salga lo mejor posible.
Nos pasa que cuando pensamos en los riesgos de la IA imaginamos futuros lejanos, escenarios de ciencia ficción como los de las películas de Terminator o Matrix.
Eso hoy no va a pasar, pero pensar en ello nos desvía de los riesgos reales que sí debemos tener en cuenta.
Los pesimistas temen sobre todo que esta tecnología se escape de nuestro control.
¿Del control de quién? ¿Corporaciones, Estados, personas?
Antes de que se mancille el control sobre la inteligencia artificial -que puede pasar-, lo que sucederá es que habrá entes que tendrán precisamente control.
Y esto les dará una diferencia de capacidad y acción enorme contra la gente que no lo tiene.
Así ha sido históricamente con otras tecnologías como la alfabetización, el acceso a la imprenta, a la tecnología médica y a la energía.
Con la inteligencia artificial pasará y está pasando lo mismo.
Es una gran disputa económica y un asunto muy delicado. Requerirá mucha responsabilidad.
Si te imaginas el desarrollo de la energía nuclear, en medio de la enorme tensión en la Guerra Fría, muchos científicos entendieron que esa energía tan grande, para que funcionara, debía estar bien distribuida.
Muchos científicos occidentales sin membresía política con el bloque del Este le dieron información a estas naciones solo porque pensaron que si EE.UU. monopolizaba la energía nuclear se daría un escenario muy oscuro.
De forma similar debería suceder con la inteligencia artificial.
¿Cómo crees que podemos mejorar como individuos nuestra convivencia con la inteligencia artificial? ¿Cómo sacarle provecho?
Lo primero es quitarle emotividad y prejuicios; sirve para la inteligencia artificial y para todo en la vida.
Si quieres conocer bien a una persona, acércate con la menor cantidad de prejuicios posibles, escúchala, decide qué te interesa, qué no, qué partes te gustan, con qué estás de acuerdo o en desacuerdo.
Si te acercas ya odiándola o amándola, es muy difícil que aprendas cosas. Ya estás cegado por tu propio sesgo.
Hay que acercarse a la inteligencia artificial con curiosidad.
El ejemplo más paradigmágtico ahora mismo es ChatGPT y es muy interesante.
Es una especie nueva, rara, con capacidad de conversación sorprendente, que al mismo tiempo dice tonterías.
Es exótica y nos interpela.
Es como viajar. Si vas a un destino como Indonesia, por ejemplo, y tienes miedo, es probable que pases tiempo en tu cuarto con tu teléfono y te pierdas cosas.
Si vas con curiosidad, interesado, encontrarás comida que te gusta, gente con la que quieres conversar y sitios fascinantes.
La IA es muy vasta, compleja y conviene encontrar buenas guías para orientarse: hay buenos canales de Youtube, libros, etc, que te dan herramientas para presentarte ante ella con una postura intermedia.
Entonces, ve sin prejuicios, pero tampoco desnudo de herramientas.
En tu libro mencionas el riesgo de que la IA nos produzca un sedentarismo cognitivo, que nuestra mente, de alguna forma, se atrofie…
Ese es el problema de casi todas las tecnologías. Como reemplazan facultades nuestras, también las entumecen.
Cuando dejas de hacer algo, pierdes esa capacidad.
Si no usas tu memoria, la pierdes; si dejas de prestar atención, pierdes la capacidad de manejar tu atención; si dejas de razonar, también pierdes esa cualidad.
Si vas en carro todo el tiempo a cualquier sitio, sufrirás sobrepeso, con mal sistema circulatorio, mala salud.
Igual que pasa en lo físico, hay que hacer algo donde el espíritu y la mente te pidan moverte.
Con ChatGPT, por ejemplo, le puedes pedir que te ayude a resolver un problema. Te lo resuelve, vas y lo entregas.
Eso te saldrá bien una vez, dos veces, pero si lo repites te volverás sedentario. Perderás la capacidad de pensar.
Si, en cambio, piensas el problema, cómo quieres resolverlo, empiezas, arrancas, te trabas, le preguntas al chat, analizas si te sirve o no la solución, te irá mejor.
Cortesía
La inteligencia artificial pone en jaque lo que somos como humanos ”Mariano Sigman
Neurocientífico y divulgador argentino
Siempre que sientas que te esfuerzas y trabajas, y vale para cualquier ámbito, significará que estás vivo y activo.
Si por el contrario te sientes cómodo, tranquilo, en distensión, lo más posible es que te vuelvas sedentario.
Bien, creo que voy por buen camino entonces en mi trato con ChatGPT, aunque he pensado que estoy un poco loco por comunicarme con él a través de frases humanas como «por favor», «gracias», o «disculpa» ¿Por qué actúo así con una máquina?
Esa es la razón que me hizo arrancar con el último libro.
Me resultó muy paradójico que la gente a veces es más amable conversando con una máquina que con una persona. Es raro y no hay una única respuesta.
Una es que el espacio natural de la conversación con una máquina es un espacio amable, como cuando entras a una tienda y dices «buenos días» y preguntas «qué tal estás».
Pero cuando uno empieza a tener conversaciones con la gente con la que más comparte, toda eso empieza a erosionarse.
Con el padre, la madre, el hermano, la pareja o el amigo de siempre, uno olvida ese protocolo de amabilidad.
A veces porque hay otras expectativas, las conversaciones se vuelven más emocionales y se pierde ese acercamiento con curiosidad.
La conversación con el chat se parece más a la que tenemos con quien maneja un autobús, con una persona con la cual tenemos menos intimidad y donde hay más respeto.
En España hay un dicho que dice que «la confianza da asco»; y es que en la confianza se pierde el protocolo.
Otra idea es la razón por la que nos acercamos al chat.
La mayoría de las veces es porque le pides que haga una tarea o algo que no sabes. Te acercas intentando descubrir. Es una conversación que requiere amabilidad.
Por último, al humano se le da muy bien adivinar cosas que no están.
Ves al cielo y ves formas. Ves una planta que se mueve y crees que quiere acercarse a ti.
ChatGPT es muy confuso, porque si por un momento olvidas que del otro lado está una computadora, te engaña (o te engañas) y entras en el juego.
Hace muchos años, todavía en «la prehistoria de la inteligencia artificial», un alumno mío vino un día afligido. Le pregunté y se había enfadado con un bot.
Era un estudiante de computación y sabía lo que hacía, pero de repente el bot le empezó a decir cosas y entró al juego de la máquina.
Ser amable es un sentimiento noble que, aunque del otro lado hay un ente inherte, podemos sentir igual.
Es una buena capacidad que también nos pasa con el planeta. Muchos de nosotros sentimos que nuestro planeta también siente. Y así nos referimos a veces a él.
Este comienzo de ChatGPT, con amabilidad, muy conversacional, me recuerda a los inicios de Twitter, Instagram, espacios donde la gente compartía ideas, fotos, recuerdos, de forma amable. Pero poco a poco entró el lenguaje tóxico, el rol de los algoritmos y parece que perdieran un poco su esencia original.
Mucha responsabilidad tenemos las mismas personas.
Cuando te juntas con gente a jugar al fútbol por primera vez, todo es cordialidad y competencia sana.
De repente uno le pega una patada al otro, el otro se enfada y de golpe se prende un fuego difícil de apagar.
Con ChatGPT y la inteligencia artificial, sin duda va a pasar. La gente se enfadará con la herramienta, le gritará y se cansará.
Habla de nuestras disposiciones. Hay muchas cosas que construimos, que empiezan como espacios cordiales, curiosos, amables, de descubrimiento y terminan como espacios de lo peor de lo humano.
Eso está en nosotros, pero el problema es que no solo somos tú y yo. Es también la humanidad.
Cuando uno piensa que algo es humano, lo asocia a algo compasivo, empático, sensible, pero todos sabemos que eso no solo es lo humano.
Los humanos nos hemos matado unos a otros toda la historia, hemos cometido todo tipo de atrocidades. Sigue habiendo guerras por todos lados con líderes despiadados e inmisericordes.
El problema es que esto no es una guerra entre la civilización, nosotros, contra unas máquinas.
Es una tecnología que justamente pone en jaque lo que somos y, lo que pase con ella va a devenir qué consorcios de lo humano elegimos poner en primer plano.
No hay que pensar en que la IA acabará atacándonos, sino qué decidimos hacer con ella nosotros, los humanos.
Etiquetas
Artículos Relacionados
