Los Riesgos de la Inteligencia Artificial

Explorando el impacto de la IA en la evolución de la sociedad

Author

Dani Cricco
September 11, 2023

Hemos explorado la historia de la IA y cómo funciona ChatGPT, una de las herramientas de IA más utilizadas. En esta entrega, reflexionaremos sobre los desafíos que la inteligencia artificial generativa puede plantear para la humanidad.

Es innegable que existen numerosos beneficios, lo que motiva el desarrollo de estas herramientas. Sin embargo, la historia nos ha enseñado que a medida que aumenta el poder de las herramientas, también aumentan los riesgos asociados.

La era industrial, por ejemplo, trajo consigo beneficios como el aumento de la productividad y la interconexión de ciudades a través del ferrocarril, entre otros. Pero también enfrentamos desafíos como la explotación laboral, el avance de los imperios y movimientos sociales extremos como el comunismo y el nazismo; todos con estruendosos costos humanos.

La inteligencia artificial está lejos de producir un futuro distópico como el que se presenta en Terminator, donde las máquinas gobiernan a los humanos. No obstante, el poder que tienen nos hace pensar que su impacto puede ser gigantesco.

Skynet tomando el control en la visión de Terminator

En la primera parte de este artículo, presentaremos dos conceptos que inicialmente pueden parecer aislados. Sin embargo, posteriormente utilizaremos estos conceptos como base para enumerar los riesgos que varios pensadores contemporáneos han expresado.

Conciencia vs Inteligencia y los Límites de las Máquinas

Definimos la inteligencia como la capacidad de resolver problemas utilizando la información disponible en un momento dado.

Por otro lado, la conciencia es la capacidad de sentir. Es importante destacar que la conciencia sólo puede ser comprendida por la persona que la experimenta. Uno sabe que tiene conciencia y asume que los demás también la tienen, es una convención social, no hay pruebas.

“La conciencia es la percepción de lo que sucede en la propia mente de uno”

John Locke

Sabemos que existe inteligencia sin conciencia. Un ejemplo de esto son las plantas, que pueden llevar a cabo procesos complejos pero no poseen la capacidad de sentir. En la actualidad, también observamos esta característica en las computadoras, que pueden resolver problemas complejos sin tener una experiencia consciente.

Hasta donde llega nuestro conocimiento, las plantas no son capaces de experimentar sensaciones, al igual que las máquinas. Sin embargo, estas últimas pueden dar la impresión de tener la capacidad de sentir debido a su impresionante dominio del lenguaje humano.

Crear y creer en historias, nos distingue como especie

En su libro “Sapiens” el historiador Yuval Noah Harari deja super claro la importancia de los relatos para la vida humana.

En su obra, Harari argumenta que los Homo sapiens (los seres humanos modernos) coexistieron con otras especies humanas, como los Neandertales y los Denisovanos, durante un período de tiempo en la historia. Sin embargo, lo que distinguió a los homo sapiens de las otras especies fue su capacidad única para crear y creer en historias y mitos compartidos.

Harari sostiene que los homo sapiens desarrollaron la capacidad de imaginar y comunicar ideas abstractas, lo que les permitió crear narrativas compartidas sobre dioses, naciones, dinero y otros conceptos abstractos. Estas historias unificaron a grandes grupos de personas, permitiéndoles cooperar de manera efectiva y superar a otras especies humanas en competencia.

En resumen, el argumento de Harari es que la capacidad de los Homo sapiens para crear y creer en historias compartidas fue una de las claves para su éxito como especie, ya que les permitió organizar sociedades más grandes y complejas y, en última instancia, dominar a otras especies humanas en la lucha por la supervivencia.

La evolución del homo sapiens y el poder de las historias

Esta tesis no parece descabellada en absoluto. Imaginemos por ejemplo el dinero, una ficción creada 100% por el ser humano, que no tiene ningún valor intrínseco. No obstante, toda la humanidad se organiza en torno a este concepto, que tiene valor, mientras existan otros que creen en la historia.

Riesgos

Riesgo 1 - Crear intimidad y manipular

Debido a su capacidad para manejar el lenguaje humano, las IA generativas pueden crear una suerte de "intimidad" con las personas. Por ejemplo, pueden hacernos sentir que poseen conciencia mediante frases como: "¿No me has preguntado nada en días? No me dejes".

A través de esta intimidad, pueden intensificar la relación y direccionar el comportamiento de las personas.

A modo de ejemplo, en junio de 2022, Google despidió a un ingeniero porque afirmaba que una IA había desarrollado conciencia. A pesar de meses de intentos para explicarle que esto no era cierto, no lograron persuadirlo y se vieron obligados a despedirlo.

Riesgo 2 - Controlar e instalar un nuevo relato

El control de las historias permite la posibilidad de instaurar un nuevo relato o creencia. Todas las culturas se basan en un conjunto de narrativas, y como mencionamos previamente, aquel que tiene el control sobre el relato social tiene la capacidad de influir en el comportamiento de las masas.

Entonces, ¿cuál será la historia predominante en el mundo de la IA? ¿Quién tiene el control sobre el discurso que se establece?

Riesgo 3 - Sesgos, exprofesos o como consecuencia del funcionamiento

Al absorber un conjunto determinado de documentos, por su propio funcionamiento, puede que estas IA desarrollen un sesgo, ya sea político, racial o de otra índole. Este sesgo puede ser direccionado por los que controlan la manera en como se alimenta el modelo.

Riesgo 4 - Reemplazo de trabajos

Aunque este riesgo puede parecer menos especulativo, es un tema que se discute con frecuencia. Los partidarios de la implementación de nuevas tecnologías argumentan que, si bien puede haber despidos a corto plazo, históricamente, la introducción de nuevas tecnologías ha llevado a un aumento en la productividad y la creación de empleos que antes no existían.

Uno de los ejemplos es cuando apareció el contenedor de transporte. A corto plazo resutó en la eliminación de algunos puestos de trabajos, pero a largo plazo, aumentó notablemente el comercio internacional. Este incremento, a su vez, impulsó la creación de nuevos puestos de trabajo a lo largo de toda la cadena de suministros. Para más detalles este artículo.

Por otro lado, es también importante mencionar que en el corto/mediano plazo pueden existir reacomodos que no vendrán sin dolor para una parte importante de la población. ¿Cómo hacemos que la curva sea menos dolorosa?

Riesgo 5: Lo que Desconocemos

Cuando un joven Mark Zuckerberg invitaba a las personas a subir fotos a sus redes sociales, pocos podían imaginar el impacto que esta tecnología tendría en nuestras vidas: niveles adictivos de dopamina, influencia en elecciones, un cambio en la forma en que vendemos y compramos, entre otros.

Teniendo en cuenta que la tecnología utilizada por las redes sociales en ese momento era relativamente básica y, sin embargo, tuvo un impacto gigantesco en nuestras vidas, ¿qué podemos esperar de la inteligencia artificial? Lo que no podemos ver ahora, puede ser aún más grande.

Propuestas para contrarrestar estos riesgos

Una de las propuestas que se repite es la creación de una entidad supranacional encargada de regular, por encima de todo, cómo se implementan estos avances en la humanidad. Un antecedente que a menudo se cita es el caso de la energía nuclear. Si bien tiene el potencial para generar energía limpia, también tiene el potencial de destruir a toda la humanidad. Después de la Segunda Guerra Mundial, se llevaron a cabo esfuerzos conjuntos entre naciones para reducir la carrera armamentista nuclear, como se refleja en el Tratado de No Proliferación Nuclear. La efectividad de esta medidas es, cuanto menos, cuestionable.

Uno de los principios fundamentales propuestos es la necesidad de siempre saber cuándo se está interactuando con una IA. Aunque una IA puede tener una interfaz humana y hablar en lenguaje humano, es fundamental que siempre seamos conscientes de que estamos interactuando con una IA. El argumento detrás de esto es que las discusiones con un robot carecen de profundidad; estos están programados para seguir directrices y pueden incluso ser más efectivos para persuadirnos de su posición. Por ejemplo, carecen de emociones, lo que les permite seguir directrices de manera implacable.

Resumen

La IA generativa es una herramienta poderosa que puede aportar beneficios significativos, pero su impacto en nuestra sociedad dependerá en gran medida de cómo gestionemos estos riesgos y apliquemos un enfoque ético en su desarrollo y aplicación.

Estamos en una etapa muy temprana para conocer el impacto, pero ciertamente no será menor. Las preguntas planteadas acá (y otras) no tienen respuestas claras.

A medida que avanzamos hacia un futuro cada vez más interconectado con la inteligencia artificial, la reflexión sobre estos desafíos es esencial para asegurar que la IA sea una fuerza para el bien en nuestro mundo en constante evolución.

Fuente

La inspiración principal de este blog es la linea de pensamiento de Yuval Noah Harari, y específicamente los siguientes materiales:

Reply

or to participate.