¿Sabéis cómo funciona un modelo de inteligencia artificial que tan de moda están en nuestros días? Imaginemos una caja negra donde se ha introducido un montón de información. Podemos preguntar, solicitar ayuda e incluso pedir que desarrolle algo. Todo basado siempre en la información inicial con la que se ha nutrido dicha caja y… con el filtro que el propietario de la misma haya querido utilizar.

Hace algunas semanas, Gemini, la inteligencia artificial de Google, fue noticia debido a que era incapaz de generar una imagen en la que apareciera una persona blanca. Soldados nazis, los fundadores de Google, caballeros templarios o un papa, aparecían con tez morena, con rasgos asiáticos o cualquier otra característica diferente a la realidad. Y ahí radica el principal problema, el sistema había sido entrenado con información verídica, pero decidió ignorar ese conocimiento fidedigno y generar algo irreal ante la petición legítima de los usuarios. La respuesta de Google era que habían dado directrices a la IA para que creara imágenes basadas en la diversidad, pero se les fue de las manos.

Así de fácil es manipular a cientos de miles de personas, de forma rápida, sutil y sin restricción alguna. Si no tenemos las cosas claras ni conocimientos previos, seremos carne de cañón para estas herramientas. Llegará un momento en el que no sabremos discernir la realidad de la manipulación.

El enfoque ético de estas plataformas debería anteponer que el usuario pueda llegar a conclusiones propias a partir de un enfoque lo más neutral posible, aunque sin modelos abiertos (gestionados de manera altruista y colaborativa, como la Wikipedia) será improbable que esto ocurra.

En un mundo donde la información es poder, la pluralidad de puntos de vista, de concepciones del mundo y de visiones ideológicas diversas es lo que enriquece y salvaguarda nuestro conocimiento.

Históricamente, la descentralización de la información ha sido clave para el avance del desarrollo humano. Desde los primeros papiros, pasando por las enciclopedias impresas hasta las diversas fuentes en línea como páginas web o bases de datos académicas, las múltiples perspectivas y la diversidad de fuentes han enriquecido nuestro entendimiento del mundo. Si tenéis tiempo y os interesa el tema, os recomiendo el libro 'El infinito en un junco', de Irene Vallejo, que explora el recorrido del conocimiento impreso y de quienes lo han salvaguardado durante casi treinta siglos.

Esta riqueza de información ahora está en riesgo debido a la tendencia hacia la centralización. Si unas pocas entidades tienen el poder de controlar y filtrar toda la información, ¿qué garantías tendríamos de que la información no esté sesgada o manipulada para servir a intereses particulares?

Estas plataformas podrían estar expuestas a presiones políticas, económicas y sociales que podrían influir en la información disponible para el público. Esto podría llevar a la supresión de puntos de vista disidentes o a la promoción de narrativas sesgadas que sirvan a agendas específicas. Si esto ocurre, la inteligencia artificial derivará en una tecnología de control social.

Creatividad y desarrollo personal

Además, la centralización del conocimiento podría llevar a una falta de innovación y creatividad. La diversidad de fuentes y perspectivas fomenta el pensamiento crítico y la exploración de nuevas ideas. Si todo el conocimiento está bajo un mismo techo, ¿dónde encontraríamos la inspiración para desafiar las normas establecidas y buscar nuevos horizontes?

Ya no hablemos de que si toda nuestra información está concentrada en un solo lugar, cualquier interrupción (hackeo, fallo tecnológico, etc.) podría tener consecuencias devastadoras para el acceso al conocimiento y la continuidad de la sociedad. ¿Es que no hemos aprendido nada del incendio de la biblioteca de Alejandría?

Quizá podemos encontrar pequeños reductos basados en la teoría del bosque oscuro donde la descentralización y el conocimiento subjetivo persistan en el tiempo.