Inteligencia Artificial vs Conocimiento experto vs Sabiduría colectiva
El filosofo Jaques Derrida utiliza la metáfora del farmacón, una droga/medicina que puede ser remedio o veneno, para mostrar la simultaneidad de los efectos benéficos y maléficos de la tecnología.
Los mecanismos democráticos, locales, complejos y de plazos cortos, forjan el límite institucional para abordar problemas como el cambio climático, que requieren un tipo de pensamiento planetario, coordinado y a largo plazo. ¿Es la inteligencia aumentada el nuevo farmacón? ¿Puede la inteligencia artificial transformar la democracia y generar otro tipo de pensamiento político?
En el proceso de análisis y toma de decisiones frente a los grandes retos globales del mundo contemporáneo inteligencia artificial, conocimiento humano experto y sabiduría colectiva se unen y se enfrentan en un imaginario partido de ajedrez a tres bandas. Vamos a delinear vicios y virtudes de estas tres grandes herramientas decisionales.
Inteligencia Artificial
Dijo el maestro de ajedrez Garri Kasparov: “¡Las maquinas son muy buenas dando respuestas, pero los humanos son muy buenos haciendo las preguntas!”
En los últimos pocos años estamos empezando a delegar a los algoritmos de Inteligencia Artificial (IA) algunas tomas de decisiones, de las más triviales, como la peli que veré esta noche, hasta las más delicadas y críticas, relacionadas por ejemplo con protocolos de terapia médica o inversiones financieras. La razón es fácil: las aplicaciones de la IA son increíblemente eficaces en desarrollar respuestas rápidas, procesando un gran volumen de datos. Una IA puede ser un buen farmacón, siendo capaz de manipular a la vez mucha más información que una mente, y de forma más rápida y eficaz. Como todos los farmacón tiene sus lados oscuros.
Entrando en el detalle de las tecnologías de IA más empleadas, tenemos los algoritmos de Machine Learning (ML), que se basan en encontrar correlaciones entre eventos, basándose en un gran número de ejemplos previamente almacenados. Son técnicas “ricas en datos, pero pobres en conocimiento”, ya que para pasar del establecimiento de una correlación a una relación de causación, i.e. causa-efecto entre dos fenómenos, y entonces a un auténtico conocimiento, necesitamos una teoría sólida [1]. Pensemos en cuanta confianza pondríamos, individualmente y colectivamente, en los datos relativos al cambio climático sin una robusta teoría basada en física, química y meteorología. Aun así, con un cuerpo de conocimiento que nos explican el porqué de los datos, aun así, queda mucha desconfianza en el cambio climático. Además de eso, la absoluta dependencia del ML de los datos de entrada, que finalmente dependen de algún colectivo humano, la reducirían a una falsa inteligencia: el sesgo de la respuesta siempre depende de cuales datos que introducimos. Entonces es este un sesgo que finalmente dependerá, de manera voluntaria o no, de algún programador humano.
En la vertiente más extrema de la IA se posicionan las sofisticadas redes neuronales de Deep Learning (DL), para las cuales no hay experto humano que pueda entender sus reglas y mecanismos internos. Evidentemente tampoco los algoritmos de DL pueden generar un conocimiento real y original, ya que un verdadero conocimiento necesita de una valoración de dinámica y causas internas del proceso mismo del conocer.
Con un algoritmo de DL aplicado en un proceso político de toma de decisiones podría pasar a gran escala lo que ha pasa a pequeña escala con las tecnologías de los actuales devices electrónicos (tablets, móviles y laptop): hay tanta complejidad implícita ahí, de tal forma que, si tienen alguna avería, no sabemos porque, no tenemos posibilidad de hacer hipótesis sobre los mecanismos que fallan, ni tenemos criterios para establecer una estrategia de reparación/substitución.
¿Estaríamos seguros en confiar en algoritmos cuyas normas y reglas para la toma de decisiones no son controlables, ni siquiera entendibles? ¿Sería conveniente delegar la toma de decisiones a una IA, de cuyos fallos no podamos saber ni la procedencia, o peor, de los cuales ni siquiera nos diéramos cuenta? Es más, desde un punto de vista ético y legal ¿Quién es el responsable de las decisiones del DL? Para contrarrestar estos riesgos habría que tomar como figura central en el proceso de toma de decisión el supervisor humano experto.
Supervisor humano experto
Los supervisores humanos expertos: personas con experiencia, intuición, creatividad intelectual, que también cometerán errores, pero tienen escrúpulos, e incluso en ocasiones mezquindades. Los supervisores expertos contrapesan y compensan las rápidas evaluaciones de las máquinas de una enorme mole de datos, con la propia auto-conciencia, con la conciencia de la historia personal y colectiva, con la percepción del cuerpo social: todo esto crea los presupuestos para que adquiera un sistema ético, compartido con la sociedad toda (en un escenario optimista, este es lo que debería pasar), que da el marco de acción de sus decisiones.
Personalmente siempre preferiría la falibilidad, los sesgos, y los errores de puro origen humana. Preferiría que en un tratamiento médico me mate por descuido un humano con una ética que comparto, que una máquina, mediante un algoritmo exacto, pero despiadado y sin responsabilidad. No creo sea conveniente, ni siquiera y sobre todo para las decisiones importantes, desprenderse de nuestra propia Deep Mind humana, sesgada por emociones, sentimientos, y pensamientos ilógicos (y/o creativos) profundos.
Pero en una decisión que afecte a la colectividad, ¿Podemos confiar en las mentes, cargadas de conocimientos y ética, de solo unos pocos expertos? Si queremos que el mecanismo decisional sea propiamente democrático ¿Acaso sería mejor tomar una decisión mediante un proceso horizontal, no jerárquico, so pena de fracasar (pero colectivamente)? ¿Es la sabiduría popular realmente sabia?
Sabiduría popular
El periodista estadounidense James Surowiecki trata en su libro “La Sabiduría de los Grupos: porqué los muchos son más inteligentes que los pocos y cómo la sabiduría colectiva da forma a los negocios, economía, sociedades y naciones” acerca de la compartición y combinación de la información en grupos, que termina en decisiones, las cuales son a menudo mejores que las que podrían haber sido tomadas por un solo miembro del grupo. Entonces los grupos podrían tomar decisiones más inteligentes que sus miembros individuales, incluso que sus expertos, si se garantizan la diversidad, independencia y descentralización del grupo, así como el libre flujo de información.
Como sociedad estamos sufriendo una toma de conciencia más amplia sobre los temas colectivos críticos para la supervivencia humana. Hay un gran flujo de información, se producen intensos debates, y se construye conocimiento con grandes proyectos colectivos, a distintas escalas, del proyecto científico multidisciplinar e internacional, hasta la Wikipedia, la más grande enciclopedia jamás existida. Eso se debe al buen farmacón de las tecnologías de la web y sus herramientas de comunicaciones instantáneas, sus foros y sus redes sociales. Si pensamos de haber llegado a la edad de oro de la inteligencia grupal, olvidaríamos que esta si bien evita algunos errores individuales, no logra evitar los errores sistemáticos, provocados por los sesgos cognitivos o el marco cultural compartido. Estos últimos se producen y amplifican precisamente a causa de la otra cara del farmacón tecnológico, mediante la creación de burbujas de conocimiento auto-inducida, y determinadas por las sugerencias y los algoritmos de búsqueda y selección de la misma web, sin olvidarnos de la facilidad de difusión de bulos, fake news, y demás falsedades patentes.
Además de las cuestiones técnicas relativas a como las nuevas tecnologías organizan los procesos de toma de decisión colectiva, tenemos a monte un problema definición de la democracia: ¿Una democracia perfecta y utópica conlleva necesariamente decisiones consensuadas y horizontales, en las cuales cada individuo tiene el mismo peso? La sociedad humana se ha desarrollado con la especialización del trabajo y de las competencias para garantizar la supervivencia de la colectividad. Si bien en un principio las organizaciones democráticas de las polis griegas eran horizontales, hasta el punto en que los cargos políticos eran elegidos por sorteo, frente a la complejidad de los retos políticos contemporáneos se precisan personas con formación y especialización. Los procesos decisionales democráticos necesitan de toda la colectividad, pero esa colectividad no puede tomar decisiones de manera ni consensuada ni horizontal. Cada individuo y cada colectivo, científicos, políticos, y demás trabajadores y ciudadanos, con su rol y su especialización, puede y debe contribuir a la conciencia colectiva común. En este sentido podemos recuperar los buenos efectos del farmacón tecnológico, el cual permitiría más eficazmente recogida de datos, encuentros y debates, para la construcción de una autentica sabiduría colectiva.
[1] Podría ser este un elemento a tener en consideración cuando, después de cada crisis económica, fracasan algunos de los modelos económicos. Tal vez se estaban estableciendo meras correlaciones sin una teoría robusta.
Bibliografía
«La farmacia de Platón» en «La diseminación.» Jacques Derrida, Fundamentos (1997).
“Humano, demasiado humano, Visión crítica de la IA y de sus aplicaciones en la actualidad”, Sebastiano de Franciscis, Master en Cultura Científica UPV/UPNA, 2022, https://lacienciaesaburrida.wordpress.com/2022/03/01/humano-demasiado-humano/
“The Wisdom of Crowds: Why the Many Are Smarter Than the Few”, Surowiecki, James (2004)