Reflexiones sobre "el espejo de la IA

LOUISVILLE - El domingo, en la conferencia de Anita y Antonio Gott en Fifth Avenue Presbyterian Church de Nueva York, la Dra. Shannon Vallor abordó el tema "El espejo de la inteligencia artificial: Cómo recuperar nuestra humanidad en la era del pensamiento mecánico"

Image

Vallor es catedrático Baillie Gifford de Ética de los Datos e Inteligencia Artificial en el Instituto del Futuro de Edimburgo de la Universidad de Edimburgo (Escocia). Su libro más reciente, que comparte título con su conferencia, explora la ética, las ventajas y los retos de un futuro con inteligencia artificial.

El domingo fue presentada por Rev. Dr. Scott Black Johnston, pastor principal de la Iglesia Presbiteriana de la Quinta Avenida. Vallor dijo que su libro "utiliza un espejo como metáfora para ayudarnos a entender cómo funcionan las herramientas de IA, qué pueden hacer y qué no, y qué pueden hacer pero probablemente no deberían"

Durante su charla, que puede verse en aquí, Vallor abordó los espejos, el espacio, el tiempo y las historias.

En cuanto al tema de los espejos, "tenemos que comprender el impacto de la IA en la democracia, la ciencia, los medios de comunicación, las artes y el clima", dijo, incluida la forma en que realizamos nuestro trabajo diario y cómo encontramos compañía.

"Está cambiando nuestra forma de hacer leyes, música, amor y guerra", afirma Vallor. La IA es un espejo "en un sentido más poderoso". No se trata de una tecnología, sino de muchas herramientas de aprendizaje automático"

Cuando te miras en un espejo, "sabes que no hay una segunda cara en esa habitación", dijo. Pero las empresas de IA "quieren que suspendas la prueba del espejo". Quieren que pienses [que con la tecnología de IA] estás viendo algo que puede ayudarte, enseñarte, consolarte, ayudarte a hablar y escribir... y algún día sustituirte"

La IA "produce espejos de mundos en los que las mujeres nunca han sido consejeras delegadas ni artistas, en los que los blancos nunca utilizan los servicios sociales y en los que las personas productivas son hombres jóvenes con demasiados productos para el cabello", afirma Vallor. "Necesitamos perspectiva cuando las falsedades de la IA parecen revelarse"

Los trucos de la IA "pueden ser deslumbrantes, incluso cegadores y desorientadores", afirmó. "Sirven para confundirnos. Son imágenes fraudulentas y falsas, diseñadas para desatar nuestra rabia por algo que nunca ocurrió"

Pensando en el espacio, Vallor dijo que para razonar "necesitamos utilizar el pensamiento como una forma de extendernos hacia el espacio abierto del futuro" Las herramientas de IA pueden diseñarse "para mantener abierto el espacio de la razón, pero en su mayor parte no lo están" Un gran modelo lingüístico no nos dirá "en realidad no lo sé" o "no estoy seguro" o "¿por qué no me lo dices?", señaló.

"Son máquinas de llenar espacios mentales", afirma Vallor. "¿Quieres un final mejor para tu novela? El espejo de la IA tiene una confianza inquebrantable"

Si en el siglo XVII hubiéramos tenido grandes modelos lingüísticos y les hubiéramos pedido que impartieran justicia, "nunca habrían exigido la liberación de las mujeres y los esclavos". Ni siquiera podrían haber cuestionado el derecho divino de los reyes", afirmó. "Nos habríamos quedado atrapados en el tiempo, como siempre habíamos estado"

Pensar "requiere la práctica repetida de escalar cimas desalentadoras. Estamos dejando que esas competencias se erosionen", afirmó. "Podríamos diseñar IA para fortalecer nuestros músculos cognitivos y los de la próxima generación, pero eso no es lo que quiere el mercado. Quiere sacar el máximo rendimiento ahora"

Sobre el tema del tiempo, Vallor recordó a sus oyentes que "sabemos que el espacio y el tiempo no están separados" y que "las cosas y los acontecimientos llegan según un calendario imprevisible"

Los seres humanos disfrutan de la capacidad de elegir. "Podemos abandonar un compromiso, o asumir uno que juramos que nunca asumiríamos", dijo Vallor. "Podemos seguir con la nefasta política que conocemos, o podemos decir 'al diablo con esto'. Estamos cambiando el juego'"

Image

"Esta es la cuestión: los espejos de IA no pueden tomar estas nuevas decisiones radicales" Son "máquinas del tiempo que se niegan a llevarnos al futuro" Ahora, más que nunca, necesitamos ejercer nuestro poder colectivo para contar nuestras propias historias, "para darnos más camino antes de llegar a un precipicio", afirmó Vallor.

Utilizamos nuestra tecnología -teléfonos inteligentes y videojuegos- para llenar todo nuestro tiempo y espacio libres, dijo. "No sabemos lo que es tener el tiempo y el espacio mental sin llenar. Lo llenamos lo más rápido posible con contenido algorítmico"

En cuanto a las historias, Vallor señaló que la IA se está utilizando para escribir noticias y artículos de opinión, para giros argumentales de los escritores de ficción y por los educadores, que cada vez se ven más empujados a utilizar la IA para resumir "los puntos clave de las lecturas que asignamos" Muchos educadores "se resisten enérgicamente a esta campaña". Las historias de nuestra historia, literatura, política y descubrimientos científicos serán contadas cada vez más por máquinas-espejo sin sentido"

Definió el espacio mental vacío como "donde se abre el tiempo y se eligen los valores, donde la historia puede ser cualquier cosa"

"Aprendemos que tenemos poder sobre el futuro", afirma Vallor. "Lo hacemos cuando innovamos en el arte, los medios de comunicación y el diseño, cuando nos unimos para hacer nuevas políticas y presionar al mundo con nuestras reivindicaciones morales. Espacio vacío, tranquilidad y aburrimiento es el campo del futuro"

La vida digital moderna puede compararse con el juego de los años 90 Tetris, según Vallor, donde "cada momento es un reto para llenar los espacios abiertos de lo existente de la forma más eficiente y fluida posible". Los bloques caen cada vez más rápido, y hay que encajarlos en sus lugares predecibles y óptimos"

En lugar de ello, "necesitamos abrir nuestro espacio y nuestro tiempo para poder escribir el siguiente capítulo de la historia humana y dejarlo ir hacia algún lugar nuevo", afirmó. "Eso no es lo que nos ofrece actualmente la IA"

Los espejos de IA no pueden contar nuestras historias porque no saben por qué esas historias importan, dijo Vallor. "No hay nada en juego para un narrador de IA, porque un robot de IA no tiene ningún futuro que hacer. ... A diferencia del trabajo de ser humano, su trabajo ya está hecho"

Pero a diferencia de un modelo de inteligencia artificial, "nos encontramos al borde de un futuro abierto, que no necesita reflexionar sobre el pasado, a menos que cedamos a las máquinas el poder de contar nuestras propias historias", afirma Vallor. "El poder narrativo es el crisol del yo. Pero aún más importante, es el crisol de nuestra humanidad colectiva, que tendrá una historia que sólo nosotros tenemos el poder y el deber de escribir"

En la sesión de preguntas y respuestas que siguió a su intervención, Vallor fue preguntada sobre cómo podemos llegar a un futuro esperanzador.

"Creo que podemos conseguirlo recordando la historia del valor humano y la responsabilidad humana", afirmó. "Cuando parece que las cosas se descontrolan, es fácil sentir que no tenemos recursos para salir adelante"

"Todo lo que hay que hacer es leer la historia lo suficiente para saber cuántas veces hemos estado en alguna versión de aquí", dijo, y "cuántas veces la humanidad ha sido encajonada ... y masticado su salida a través de la solidaridad, el ingenio, la fe y un compromiso con el futuro"

"Hay formas de canalizar los sentimientos hacia el poder de crear un futuro para nosotros mismos y para los demás", afirmó Vallor. "Lo hemos hecho muchas veces y podemos volver a hacerlo"