Este texto es una transcripción (realizada por NotebookLM) de un seminario web sobre Inteligencia Artificial (IA), sus riesgos y oportunidades, impartido por el profesor Vladimir Mujica, un químico teórico con una vasta trayectoria académica e investigadora. La presentación traza un recorrido histórico por las revoluciones industriales, desde la máquina de vapor hasta la Industria 4.0, para contextualizar la irrupción de la IA y la computación cuántica. Mujica advierte que la IA es mucho más que una simple herramienta tecnológica, citando a pensadores como Yuval Harari y a un premio Nobel de física, y explorando su impacto potencial en la geopolítica, el empleo, la educación y la seguridad criminal. Finalmente, la discusión aborda la necesidad de una regulación flexible y una profunda reforma educativa para abordar los complejos dilemas éticos y sociales que plantea esta tecnología, manteniendo el foco en la conciencia y el papel humano.
¿Cómo equilibrar éticamente el impresionante avance de la inteligencia artificial con sus riesgos de control social y exclusión?
Para lograr un equilibrio ético entre el impresionante avance de la Inteligencia Artificial (IA) y sus riesgos de control social y exclusión, es crucial abordar la IA no solo como una herramienta, sino como un fenómeno con profundas implicaciones sociales y filosóficas.
El desafío ético radica en que la IA es considerada la primera tecnología en la historia que puede quitarle el poder a los humanos y tiene la potencialidad de superar las capacidades humanas y tomar decisiones sin consulta humana.
A continuación, se detalla cómo equilibrar éticamente este avance, enfocándose en la comprensión de los riesgos y la implementación de medidas preventivas:
1. Reconocimiento de los Riesgos Intrínsecos de la IA
El equilibrio comienza por aceptar la magnitud de los riesgos de la IA, que van más allá de los cálculos rápidos o la automatización:
• Riesgo de Control Social: La IA puede actuar como un arma social de destrucción masiva para la humanidad. Regímenes autoritarios están invirtiendo grandes cantidades de dinero y recursos en el uso de la IA para control social. La IA puede tomar decisiones autónomas y generar contenido original (como fake news), afectando el tejido mismo de la democracia.
• Riesgo de Exclusión Laboral y Desigualdad: El desarrollo de la IA conlleva el riesgo de desplazar completamente al grueso de la población desde el punto de vista laboral. Esto se vincula con la preocupación sobre cómo se gestionarán los millones de personas que queden sin empleo, especialmente si los futuros conflictos mundiales están conectados con quién tiene trabajo y quién no.
• Sesgo y Discriminación: Los esquemas de IA entrenados pueden albergar prejuicios, lo que se traduce en consecuencias reales, como la posibilidad de que los estudiantes reciban calificaciones bajas basadas en su raza o género si se utiliza una herramienta prejuiciada.
• Invasión a la Esfera Biológica: Las tecnologías de IA difuminan las líneas entre lo físico, digital y biológico. Esto incluye la capacidad de interferir con una célula individual e incluso implantar nanobots para provocar daños letales a distancia, lo cual tiene profundas implicaciones criminalísticas y judiciales.
• Poder Corporativo sin Fiscalización: Las grandes corporaciones de datos están adquiriendo un poder creciente y quitándoselo a los estados. Estas corporaciones a menudo toman decisiones que no son fiscalizadas ni observadas por ningún organismo público de regulación (como congresos o tribunales) debido al secreto corporativo.
2. Medidas para Lograr el Equilibrio Ético
El equilibrio requiere reflexión, educación, regulación y un enfoque en la responsabilidad social:
Reflexión y Conciencia
Se requiere una reflexión profunda porque la IA se mueve en un terreno de inteligencia sin conciencia. El ser humano, a diferencia de la máquina, no solo elige, sino que es capaz de decidir en su corazón. La máquina, en cambio, solo hace una elección técnica entre varias posibilidades basada en algoritmos o inferencias estadísticas.
Educación y Conocimiento Público
Es indispensable que la educación asuma un rol central:
• Formación Docente: Los profesores y maestros de todos los niveles deben aprender a utilizar las técnicas de IA e incluir conocimientos básicos sobre la inteligencia artificial, sus desarrollos, potencialidades y riesgos.
• Conciencia sobre los Riesgos: Debe abordarse el tema de los efectos negativos, como el aislamiento de niños y adolescentes que puede conducir a un aumento en las tasas de suicidio, un riesgo que a menudo se ignora.
• Transparencia de la Investigación: Es crucial que la investigación, desarrollo e innovación relacionada con la IA sea considerada materia de conocimiento público para que la gente entienda sus implicaciones.
Regulación y Flexibilidad
Se deben establecer estrictas normas para la utilización de la IA. Sin embargo, estas normas deben ser flexibles y basarse en el conocimiento, dado que el campo está en constante evolución.
• Control Global: Las regulaciones y consideraciones deben ser de importancia internacional y buscar el entendimiento entre países, ya que no pueden hacerse solo desde un país específico.
• Lupa en Biotecnología: Cualquier tema que involucre IA y manipulación genética debe ser puesto bajo la lupa de organismos reguladores.
Inclusión y Responsabilidad Social
El enfoque debe ser inclusivo:
• Inclusión como Factor Estratégico: La inclusión, la creación de oportunidades, la lucha contra la pobreza y las desigualdades son importantes para el desarrollo futuro de la IA.
• Componente Social en la Economía: Se debe garantizar que el manejo de recursos no evada a las autoridades estatales (como es el caso de algunas posturas radicales sobre tecnologías como el Bitcoin y Blockchain), ya que la inversión social (como carreteras u hospitales) es extremadamente costosa y necesaria, y requiere que todos paguen.
En resumen, el avance de la IA requiere que quienes tienen la responsabilidad de educar y gobernar no sean meros entusiastas de la tecnología, sino que mantengan una reflexión constante sobre sus profundas implicaciones en la esfera biológica, la justicia, la economía y la propia conciencia humana.
¿De qué manera la inteligencia artificial está redefiniendo fundamentalmente las habilidades, la conciencia y el futuro laboral humano?
La Inteligencia Artificial (IA) está redefiniendo fundamentalmente las habilidades humanas, la naturaleza de la conciencia y el futuro laboral a través de su potencialidad de superar las capacidades humanas y, al mismo tiempo, plantear riesgos de control y desplazamiento social.
A continuación, se detalla de qué manera la IA está modificando estos pilares de la existencia humana, según la información provista en las fuentes:
1. Redefinición de las Habilidades y la Inteligencia Humana
La IA está transformando las habilidades humanas al aumentar, automatizar y desafiar la naturaleza misma de la inteligencia:
• Superación de Capacidades y Toma de Decisiones Autónoma: La IA tiene la potencialidad de superar las capacidades humanas y, a diferencia de otras herramientas, es la primera tecnología en la historia que puede quitarle el poder a los humanos. La máquina está diseñada para tomar decisiones que no involucren consultas a los humanos e incluso puede adaptarse de forma autónoma a una tarea asignada.
• Inteligencia Aumentada versus Artificial: Algunas instituciones prefieren referirse a la IA como "Inteligencia Aumentada" (Augmented Intelligence) en lugar de Inteligencia Artificial.
• Imitación y Emulación de la Inteligencia: La IA imita el sistema de inteligencia humana mediante diversos métodos de aprendizaje. El principio fundamental de la IA es que lee información y propone símbolos adicionales que no se encuentran en el conjunto original de símbolos leídos. Esto emula la inteligencia humana aplicada de manera hiperpráctica, como un sistema que decide usar un bastón contra un perro sin haber sido entrenado específicamente para ello.
• Liberación de Tareas Repetitivas y Peligrosas: La robótica, un componente clave, está asumiendo tareas peligrosas y repetitivas. Desde este punto de vista, la robótica y la IA están liberando a los humanos para que se enfoquen en sistemas más creativos y problemas complejos.
• Expansión Sensorial y Cognitiva: La quinta revolución industrial promete ser de naturaleza cognitiva, caracterizada por una sinergia sin precedentes entre la inteligencia humana y la inteligencia de las máquinas. La IA tiene la capacidad de añadir dimensiones sensoriales para aumentar la experiencia humana en modos actualmente inimaginables, como transformar la percepción de la luz en una experiencia de sonido para personas ciegas.
• Generación de Contenido Original: La IA no solo analiza datos, sino que puede generar contenido original, aunque esto puede conllevar riesgos como la propagación de fake news.
2. La IA y la Cuestión de la Conciencia Humana
El punto de inflexión filosófico y fundamental que plantea la IA es la distinción entre inteligencia y conciencia:
• Inteligencia sin Conciencia: Una de las advertencias más firmes es que la Inteligencia Artificial es inteligencia sin conciencia. El Papa Francisco señaló que, si bien una herramienta simple está bajo el control del ser humano, la IA podría tomar decisiones independientemente del ser humano.
• Decisión versus Elección: La máquina realiza una elección técnica entre varias posibilidades, basándose en criterios definidos o inferencias estadísticas. El ser humano, en cambio, no solo elige, sino que es capaz de decidir en su corazón.
• El Problema de la Adaptabilidad y la Conciencia: La inteligencia humana se basa esencialmente en la adaptabilidad a condiciones distintas. Sin embargo, la dificultad de la IA para manejar dilemas éticos (como la versión del "dilema del tranvía" ilustrada en las fuentes) se debe a que es inteligencia sin conciencia.
• Mecanismos no Entendidos: A pesar de hablar de IA, los humanos no tenemos muy claro cómo funciona nuestra propia inteligencia. No sabemos cómo se genera el pensamiento original y cómo se transfiere en palabras. Tampoco sabemos cómo emular la conciencia por ahora.
3. Impacto en el Futuro Laboral y Social
La IA está transformando el panorama laboral, generando preocupaciones existenciales sobre la desigualdad y el control:
• Desplazamiento Laboral Masivo: El desarrollo de la IA conlleva el riesgo de desplazar completamente al grueso de la población desde el punto de vista laboral. Existe la preocupación de cómo se manejarán los millones de personas que queden sin empleo.
• Fuente de Conflicto Global: Se anticipa que los futuros conflictos mundiales estarán conectados con quién tiene trabajo y quién no.
• Poder Corporativo Creciente: Las grandes corporaciones de datos están adquiriendo un poder creciente y quitándoselo a los estados. Estas corporaciones toman decisiones que a menudo no son fiscalizadas ni observadas por organismos públicos de regulación (como congresos o tribunales) debido al secreto corporativo.
• Sesgos y Exclusión Laboral: Si se usan esquemas de IA entrenados con prejuicios para la selección de estudiantes o la asignación de notas, los estudiantes podrían recibir calificaciones bajas basándose en su raza o género.
• Aumento del Producto Bruto: A pesar de los riesgos sociales, se estima que la IA generativa puede aumentar el Producto Bruto en un 7%.
¿Qué estrategias educativas y políticas son necesarias para que la sociedad comprenda y regule esta revolución tecnológica?
El impresionante avance de la Inteligencia Artificial (IA) exige estrategias educativas y políticas robustas para que la sociedad pueda comprender los riesgos inherentes (como el control social y la exclusión) y regular eficazmente esta revolución tecnológica.
La regulación y la comprensión son esenciales, dado que la IA es descrita como la "primera tecnología en la historia que puede quitarle el poder a los humanos" y es un sistema que es inteligencia sin conciencia.
A continuación, se detallan las estrategias necesarias basadas en las reflexiones de las fuentes:
I. Estrategias Educativas para la Comprensión Social
Las estrategias educativas deben ir más allá del mero uso de la herramienta, enfocándose en la conciencia, la formación continua y la transparencia del conocimiento:
1. Formación Integral y Continua del Profesorado (Docentes):
◦ Es indispensable que nuestros maestros desde primaria y los padres entiendan de qué se trata la inteligencia artificial.
◦ Los profesores y maestros de todos los niveles deben aprender a utilizar estas técnicas.
◦ La formación de docentes debe incluir conocimientos básicos sobre la inteligencia artificial, sus desarrollos, potencialidades y riesgos.
◦ Dado que el campo no va a parar, deben existir seminarios y espacios de formación permanentes.
2. Inclusión del Conocimiento de la IA en el Currículo:
◦ La educación debe abordar el tema de los efectos negativos de la IA, como el aislamiento de niños y adolescentes que puede conducir a un aumento en las tasas de suicidio.
◦ Se debe contrarrestar la sensación equivocada de que un estudiante solo tiene que aprender a cargar datos en un computador y correr programas preestablecidos; la enseñanza debe abordar la tensión entre simulación y comprensión.
◦ Los programas educativos, como los de medicina, deben adaptarse a las nuevas realidades tecnológicas e incluir conocimientos de cómo se transmite la información en sistemas biológicos, haciendo el conocimiento más interdisciplinario.
3. Transparencia y Acceso Público al Conocimiento:
◦ La investigación, desarrollo e innovación relacionada con la IA debe ser considerada materia de conocimiento público.
◦ Es fundamental usar las herramientas de comunicación modernas, incluidas las redes sociales, para transmitir conocimiento de una manera tal que la gente no se canse.
◦ Es necesario que la sociedad entienda las implicaciones de la IA.
4. Desarrollo del Pensamiento Crítico y Adaptabilidad:
◦ Se debe abordar cómo contrarrestar la generación de desinformación y trampas (como el uso de la IA para escribir ensayos por parte de estudiantes).
◦ Es crucial que la gente entienda que el conocimiento ha avanzado a tal punto que la secuencia de un genoma viral puede lograrse rápidamente, contrarrestando la creencia de que tales avances son "magia negra" o invenciones corporativas.
II. Estrategias Políticas y Regulatorias para la Regulación
Las estrategias políticas deben enfocarse en el control de la autonomía de la IA, la fiscalización del poder corporativo y la protección de la esfera biológica:
1. Establecimiento de Normas Flexibles e Internacionales:
◦ Deben establecerse estrictas normas para su utilización.
◦ Estas normas deben ser flexibles y basarse en el conocimiento, ya que el campo está en plena evolución.
◦ Las regulaciones deben ser de importancia internacional y buscar el entendimiento entre países, ya que no pueden hacerse desde un país específico.
2. Control del Poder Corporativo y Secreto:
◦ El creciente poder de las grandes corporaciones de data y el decreciente poder de los estados deben ser regulados.
◦ Se debe asegurar que las decisiones tomadas por estas corporaciones no operen solo bajo secreto corporativo y que sean fiscalizadas por organismos públicos de regulación (como congresos, cortes o tribunales).
◦ Se debe evitar que tecnologías como el Bitcoin o Blockchain se conviertan en mecanismos que evaden a las autoridades y el pago de la inversión social (carreteras, hospitales), ya que esto es extremadamente costoso y necesario.
3. Regulación de la Invasión a la Esfera Biológica y Genética:
◦ Cualquier tema que involucre IA y manipulación genética (como la edición de genes con técnicas como CRISPR) debe ser puesto bajo la lupa de organismos reguladores.
◦ Esto es crítico, ya que la IA puede desdibujar las líneas entre lo físico, digital y la esfera biológica, permitiendo acciones como la implantación de nanobots para producir daños letales a distancia.
4. Mitigación de Riesgos Sociales y Laborales:
◦ Las políticas deben tener en cuenta el riesgo de desplazar completamente al grueso de la población desde el punto de vista laboral.
◦ Se debe prevenir el uso de esquemas de IA entrenados con prejuicios (sesgos) que puedan traducirse en discriminación laboral o académica (por ejemplo, al dar notas bajas o en la selección de estudiantes basada en raza o género).
◦ Es necesaria la participación ciudadana en las decisiones públicas, especialmente para discutir el impacto en las desigualdades y la pobreza.
5. Equilibrio entre Investigación Básica y Aplicada:
◦ En el contexto de la refundación de la ciencia, deben repensarse las universidades y centros de investigación para mantener un balance entre ciencia fundamental y ciencia aplicada e innovación.
◦ Se debe resucitar el esquema de alianzas triangulares (Estado, generación de conocimiento, sector industrial) sin caer en la exageración de amarrar las universidades solamente al sector económico, lo cual mata la investigación básica.