Pág. 1
Pág. 2
Inteligencia artificial en la ética de la educación
Ulises Octavio Irigoin Cabrera, Jaime Soto Vilca, Erlin Guillermo Cabanillas Oliva, Kattya
Rosscelyn Silvera García, Rosaura García Rojas, Macedonio Huamani Casaverde
© Ulises Octavio Irigoin Cabrera, Jaime Soto Vilca, Erlin Guillermo Cabanillas Oliva, Kattya
Rosscelyn Silvera García, Rosaura García Rojas, Macedonio Huamani Casaverde, 2024
Primera edición: Septiembre, 2024
Editado por:
Editorial Mar Caribe
www.editorialmarcaribe.es
Av. General Flores 547, Colonia, Colonia-Uruguay.
RUC: 15605646601
Diseño de cubierta: Yelitza Sánchez Cáceres
Libro electrónico disponible en https://editorialmarcaribe.es/inteligencia-artificial-en-la-etica-de-
la-educacion/
Formato: electrónico
ISBN: 978-9915-9706-2-2
ARK: ark:/10951/isbn.9789915970622
Aviso de derechos de atribución no comercial: Los autores pueden autorizar al público en general a
reutilizar sus obras únicamente con fines no lucrativos, los lectores pueden usar una obra para generar otra
obra, siempre y cuando se dé el crédito de investigación y, otorgan a la editorial el derecho de publicar
primero su ensayo bajo los términos de la licencia CC BY-NC 4.0.
Pág. 3
Editorial Mar Caribe
Inteligencia artificial en la ética de la educación
Colonia, Uruguay
2024
Pág. 4
Índice
Introducción .....................................................................................................................................5
Capítulo 1 .........................................................................................................................................7
Evolución de la inteligencia artificial (IA) desde Turing.................................................................7
1.1 IA: modelos .................................................................................................................... 9
1.2 Test de Turing .............................................................................................................. 11
1.3 Los lenguajes de programación ............................................................. 12
1.4 Las aplicaciones ........................................................................................ 16
1.5 Los ambientes de desarrollo ................................................................... 19
1.6 Inteligencia artificial, educación y tecnologías: ¿buenas o malas? ................................ 20
1.7 IA: significado .............................................................................................................. 22
Capítulo 2 .......................................................................................................................................26
Inteligencia artificial, aprendizaje y ética. ¿Cómo funciona? ........................................................26
2.1 La discriminación y la desigualdad .......................................................................... 28
2.2 Las arbitrariedades en las decisiones ....................................................................... 35
2.3 Las huellas digitales .................................................................................................... 40
Capitulo 3 .......................................................................................................................................49
¿Qué hace la inteligencia artificial? ...............................................................................................49
3.1 La educación ................................................................................................................ 52
3.2 Inteligencia artificial en la era digital ............................................................................. 65
Capítulo 4 .......................................................................................................................................68
Inteligencia artificial y pensamiento crítico ...................................................................................68
4.1 Desafíos ......................................................................................................................... 72
4.2 Abordaje en la clase sobre la IA ................................................................................ 76
4.3 Reiniciar ........................................................................................................................ 78
Conclusiones ..................................................................................................................................82
Bibliografía ....................................................................................................................................84
Pág. 5
Introducción
A medida que la prevalencia de la inteligencia artificial (IA) continúa creciendo, es
crucial reconocer los posibles inconvenientes asociados con su avance. El surgimiento de
la IA trae consigo una multitud de preocupaciones que tienen profundas implicaciones
tanto para los individuos como para la sociedad en su conjunto, destacando la necesidad
apremiante de consideraciones éticas en el ámbito de la inteligencia artificial. Es esencial
reconocer que el uso indebido de la tecnología de inteligencia artificial puede exacerbar
las desigualdades existentes, al mismo tiempo que se reconoce que los algoritmos
programados inadecuadamente pueden resultar en una discriminación injusta contra las
personas, como negarles el acceso a servicios vitales como el seguro médico. Por lo tanto,
la dimensión ética de la IA desempeña un papel fundamental a la hora de mitigar estos
resultados adversos y garantizar que los beneficios de la IA se aprovechen de manera
justa y equitativa.
La inteligencia artificial juega un papel destacado en varios aspectos de nuestra
vida cotidiana. Los asistentes de voz, como Siri o Alexa, se han vuelto comunes y nos
permiten interactuar con la tecnología utilizando el lenguaje natural. Cuando buscamos
algo en Google, la función de búsqueda predictiva utiliza algoritmos de inteligencia
artificial para anticipar y mostrar resultados de búsqueda relevantes. De manera similar,
las tiendas en línea emplean inteligencia artificial para brindar recomendaciones de
productos personalizadas basadas en nuestro historial de navegación y compras. Muchas
empresas utilizan ahora los chatbots, impulsados por IA, para mejorar el servicio y la
asistencia al cliente.
Asimismo, la IA está en el centro de los sistemas de automatización del hogar, lo
que nos permite controlar y administrar varios dispositivos, como luces, termostatos y
sistemas de seguridad, con facilidad. Incluso cuando utilizamos mapas para la
Pág. 6
navegación, los algoritmos de IA funcionan en segundo plano para proporcionar
actualizaciones de tráfico en tiempo real y sugerir las rutas más eficientes. La razón detrás
de todos estos avances es que la inteligencia artificial puede procesar y analizar grandes
cantidades de datos e información, imitando la inteligencia humana. Esto significa que
los sistemas de IA poseen capacidades como razonamiento, aprendizaje, percepción,
planificación, predicción y control, lo que les permite realizar tareas que antes estaban
reservadas a los humanos.
En este contexto, la Unión Europea ya advierte en su propuesta de reglamento
sobre inteligencia artificial de que su uso puede tener un impacto negativo en derechos
fundamentales por sus características (como opacidad, complejidad, dependencia de
datos o comportamiento autónomo).
Del mismo modo, la Recomendación sobre la ética de la inteligencia artificial,
adoptada por los 193 Estados miembros de la UNESCO en 2021, destaca las implicaciones
éticas de la inteligencia artificial en términos de su impacto “en la toma de decisiones, el
empleo y el trabajo, la interacción social, la atención sanitaria, la educación”. , medios de
comunicación, acceso a la información, brecha digital, protección del consumidor y
protección de datos personales, medio ambiente, democracia, estado de derecho,
seguridad y mantenimiento del orden, doble uso, y derechos humanos y libertades
fundamentales, incluida la libertad de expresión, la privacidad y la no discriminación .”
En este sentido, la Ley integral 15/2022 de Igualdad y No Discriminación supone
el primer planteamiento regulatorio en España para el uso de la inteligencia artificial por
parte de administraciones públicas y empresas. Administraciones y empresas también
promoverán el uso de inteligencia artificial "ética, fiable y respetuosa de los derechos
fundamentales".
Pág. 7
Capítulo 1
Evolución de la inteligencia artificial (IA) desde Turing
A lo largo de la historia, el ser humano ha anhelado la capacidad de crear seres
similares a ellos. Se han esforzado por desarrollar artefactos que no sólo se parezcan a los
humanos, sino que también se muevan y se comporten como ellos. Una persona que
profundizó en este concepto fue el escritor e historiador ruso Isaac Asimov. Nacido en
1920 y fallecido en 1992, Asimov exploró el reino de la ciencia ficción, imaginando objetos
y escenarios que parecían descabellados en su época. Sin embargo, con el paso del tiempo,
muchas de sus ideas se hicieron realidad.
En su libro Runaround, Asimov presentó lo que ahora se conocen como las tres
leyes de la robótica. Esta obra maestra literaria sirvió como catalizador para científicos e
ingenieros, encendiendo su deseo de dar vida a estas leyes. En la década de 1950 se
produjo un gran avance con el desarrollo del perceptrón Rossenblatt este revolucionario
sistema se centró en el reconocimiento de patrones visuales, con el objetivo de resolver
una amplia gama de problemas. Desafortunadamente, el entusiasmo inicial en torno a
este logro se desvaneció rápidamente.
Mientras tanto, en esta época, el matemático inglés Alan Turing, que vivió entre
1912 y 1954, propuso una prueba para determinar la presencia de "inteligencia" en
dispositivos no biológicos. Esta prueba, conocida como "prueba de Turing", tenía como
objetivo demostrar la existencia de la inteligencia artificial. Edward Feigenbaum y su
equipo de investigadores comenzaron a desarrollar sistemas expertos para resolver
problemas cotidianos. Estos sistemas tenían como objetivo abordar cuestiones más
concretas y prácticas, sentando las bases para el campo de los sistemas expertos.
Pág. 8
Después en 1957, Alan Newell y Herbert Simon crearon un programa llamado GPS
(General Problem Solver) mientras trabajaban en pruebas de teoremas y ajedrez por
computadora. Este programa permitía a los usuarios definir un entorno con objetos y
operadores, separando la información del problema de la estrategia utilizada para
resolverlo. Aunque el GPS podía resolver ciertos problemas como el de las "Torres de
Hanoi", era incapaz de abordar problemas del mundo real o tomar decisiones
importantes. Se basó en reglas heurísticas y el método de prueba y error para alcanzar los
resultados deseados. El primer sistema experto, Dendral, se construyó en 1967 y sirvió
como intérprete de espectrogramas de masas. Sin embargo, el sistema experto más
influyente resultó ser Mycin, desarrollado en 1974.
Mycin tenía la capacidad de diagnosticar trastornos sanguíneos y prescribir la
medicación adecuada, lo que lo convirtió en un logro notable para su época. Estos
sistemas expertos incluso encontraron aplicaciones prácticas en hospitales, como por
ejemplo el sistema Puff. En general, estos avances y contribuciones de diversos
investigadores y científicos han allanado el camino para el desarrollo de máquinas
inteligentes y sistemas de inteligencia artificial en el campo de la informática. Alan Turing
hizo dos contribuciones importantes en este campo. En primer lugar, diseñó el primer
ordenador capaz de jugar al ajedrez, lo que supuso un logro innovador. En segundo
lugar, estableció la naturaleza simbólica de la informática, destacando los principios
fundamentales que subyacen en este campo.
En 1958, John McCarthy desarrolló un lenguaje de programación conocido como
LISP mientras trabajaba en el MIT. LISP, derivado de "LISt Processing", todavía se utiliza
hoy en día y es particularmente conocido por su utilización de listas encadenadas como
estructuras de datos importantes. Según Alan Turing en 1950, si una máquina exhibe
inteligencia en todos los aspectos, entonces puede considerarse inteligente. Esta
Pág. 9
afirmación llevó a que los investigadores de la época se centraran significativamente en
el desarrollo de sistemas lingüísticos de inteligencia artificial, también conocidos como
"chatbots". Marcó el nacimiento de estos robots de chat y despertó un gran interés dentro
de la comunidad científica por la creación de máquinas inteligentes. En 1965, Joseph
Weizenbaum creó el primer programa interactivo llamado ELIZA. Permitió a los usuarios
entablar conversaciones escritas con una computadora en inglés, lo que marcó un avance
significativo en el campo del procesamiento del lenguaje natural.
1.1 IA: modelos
Dentro del ámbito de los modelos de Inteligencia Artificial existe un sistema de
clasificación que se basa en el objetivo y el funcionamiento del sistema. Inicialmente, estas
clases se consideraban entidades separadas, pero a medida que pasó el tiempo, se han
ido mezclando características entre ellas:
• El concepto que se está explorando es la idea de desarrollar sistemas que sean
capaces de pensar y razonar de una manera similar a la mente humana. Los
investigadores están intentando comprender el funcionamiento interno de la
mente a través de la experimentación psicológica, con el objetivo de crear modelos
computacionales basados en sus hallazgos. El campo de las ciencias cognitivas
desempeña un papel importante en la configuración de esta investigación, ya que
proporciona información sobre cómo funciona la mente humana. Un ejemplo
notable de esta investigación es el General Problem Solver (GPS), desarrollado por
Newell y Simon en 1963. A diferencia de los sistemas tradicionales de resolución
de problemas, el enfoque del GPS no estaba únicamente en encontrar la solución
correcta, sino más bien en comprender el razonamiento detrás. las respuestas
proporcionadas por el sistema. Es importante señalar que, si bien en esta
Pág. 10
investigación se utilizan computadoras, la mayoría de los estudios se realizan en
humanos y animales para obtener una comprensión más profunda de los procesos
cognitivos.
• El concepto de construir sistemas que emulen el comportamiento humano sirve
como base para el desarrollo de la inteligencia artificial. El objetivo final es crear
un sistema que pueda superar con éxito la prueba de Turing, que determina si una
máquina posee una inteligencia similar a la humana. Esto requiere la
incorporación de diversas capacidades como el procesamiento del lenguaje
natural, la representación del conocimiento, el razonamiento y el aprendizaje. Sin
embargo, es fundamental señalar que, si bien pasar la prueba de Turing es un logro
importante, no es el único objetivo de la IA. La capacidad de estos sistemas para
interactuar sin problemas con las personas requiere su capacidad para imitar
acciones y respuestas humanas. Por lo tanto, la atención se centra no sólo en lograr
inteligencia sino también en garantizar que estos sistemas puedan emular
eficazmente el comportamiento humano.
• Los sistemas que poseen la capacidad de pensar de manera racional se basan en
las leyes de la lógica, específicamente en los silogismos de Aristóteles. Los
programas inteligentes dependen en gran medida de la lógica formal como base,
un concepto conocido como logicismo. Si bien, hay dos desafíos importantes que
obstaculizan el progreso en este campo. En primer lugar, formalizar el
conocimiento de manera eficaz resulta una tarea increíblemente desafiante. En
segundo lugar, existe una brecha sustancial entre el potencial teórico de la lógica
y su aplicación práctica. Ampliando los silogismos de Aristóteles, la lógica de los
predicados juega un papel crucial en este esfuerzo, reforzando aún más la
importancia de la lógica como pilar fundamental de esta búsqueda intelectual.
Pág. 11
• Actuar racionalmente implica el proceso de lograr metas basadas en un conjunto
de creencias. Este concepto se aplica comúnmente a varios sistemas robóticos,
donde el agente racional sirve como paradigma. La función principal del agente es
percibir su entorno y responder en consecuencia, considerando consistentemente
el contexto en el que opera. Para cumplir su función de manera efectiva, el agente
debe poseer capacidades esenciales como habilidades de percepción, habilidades
de procesamiento del lenguaje natural, representación del conocimiento,
capacidades de razonamiento y capacidades de aprendizaje automático. Es
importante señalar que el desempeño del agente no se centra únicamente en imitar
el comportamiento humano, sino en lograr resultados óptimos en un sentido más
amplio.
1.2 Test de Turing
El test de Turing, propuesto por Alan Turing en 1950, tiene como objetivo
proporcionar un medio para evaluar la Inteligencia Artificial. Para ser considerado
inteligente, un ser o una máquina debe engañar con éxito a un evaluador haciéndole creer
que es un ser humano, demostrando toda la gama de habilidades cognitivas que poseen
los humanos. Según Turing, si una máquina es capaz de entablar un diálogo y cometer
un número similar de errores que un humano en la comunicación, puede considerarse
"inteligente".
En la actualidad, la tarea de programar un ordenador para superar el test de
Turing es muy compleja. La computadora debe poseer varias capacidades clave:
• En primer lugar, debe ser capaz de procesar el lenguaje natural, permitiéndole
comunicarse eficazmente en cualquier idioma humano, ya sea español, inglés u
otro idioma.
Pág. 12
• En segundo lugar, debe tener la capacidad de almacenar y acceder al
conocimiento, utilizando una base de datos para recibir y retener información.
• En tercer lugar, la computadora debe poseer la capacidad de razonar
automáticamente, utilizando la información almacenada para responder
preguntas, sacar nuevas conclusiones y tomar decisiones.
• Por último, debe ser capaz de autoaprendizaje, lo que le permitirá adaptarse a
nuevas circunstancias.
Este proceso de autoaprendizaje conduce también a la autoevaluación. En esencia,
la prueba de Turing establece un alto estándar para evaluar la inteligencia artificial,
exigiendo que las máquinas posean una variedad de capacidades complejas para imitar
de manera convincente la inteligencia humana. Para pasar la prueba de Turing completa,
una computadora debe estar equipada además con capacidades visuales y robóticas. La
vista permite a la máquina percibir objetos en su entorno, mientras que la robótica le
permite manipular los objetos que ha percibido.
1.3 Los lenguajes de programación
Un lenguaje de programación sirve como un medio creado por el hombre para
comunicar comandos a una computadora. Si bien es posible utilizar cualquier lenguaje
computacional para crear herramientas de inteligencia artificial, existen herramientas
dedicadas que están diseñadas específicamente para ayudar en el desarrollo de sistemas
inteligentes, entre los más destacados se encuentran:
• El IPL-11, es conocido por ser el lenguaje de programación pionero diseñado
específicamente para abordar los desafíos de la Inteligencia Artificial. Newell y
Simon utilizaron IPL para el desarrollo del GPS (General Solver Problem) en 1961.
Pág. 13
El mérito de inventar este lenguaje de programación es de Herbert Simon, el físico
Allen Newell y J.C. Shaw, quienes colaboraron para crearlo en 1955. Poco después,
estos Tres mentes brillantes crearon el "Teórico de la Lógica", que sirvió como
precursor del GPS. El teórico de la lógica poseía la notable capacidad de demostrar
una amplia gama de teoremas matemáticos. Es ampliamente reconocido como el
primer programa destinado a simular las habilidades humanas para resolver
problemas.
• Lisp, que significa LISt Processor, es un lenguaje de programación que tiene una
rica historia y continúa utilizándose activamente en la actualidad. Fue
desarrollado originalmente por John McCarthy y sus colegas en el Instituto de
Tecnología de Massachusetts en 1958, lo que lo convierte en uno de los lenguajes
de programación más antiguos que aún se utilizan. Una de las contribuciones
notables de Lisp al campo de la programación es la introducción de estructuras de
datos en forma de árbol. Estas estructuras permiten una organización y
manipulación eficiente de los datos, y Lisp depende en gran medida de ellas. De
hecho, los programas Lisp se componen de listas, lo que hace que el lenguaje sea
único en su capacidad para tratar el código fuente como una estructura de datos.
Esta característica ha dado lugar a potentes macrosistemas, que permiten a los
programadores crear nuevas sintaxis de lenguajes de programación adaptadas a
dominios específicos dentro del propio Lisp. Como pionero en el procesamiento
simbólico, Lisp tiene la distinción de ser el primer lenguaje diseñado para tales
propósitos.
• Prolog es un lenguaje de programación que deriva su nombre del acrónimo
PROgramming in LOGic (PROLOG). A diferencia de muchos otros lenguajes de
programación, Prolog está diseñado específicamente para resolver problemas
Pág. 14
relacionados con el cálculo de predicados. Este propósito único surgió del interés
de Alain Coulmeauer y Philippe Roussell en desarrollar una herramienta que
pudiera hacer deducciones a partir del texto. La primera descripción completa de
Prolog se presentó en 1975 como un manual para el intérprete de Marseille Prolog,
escrito por Roussel. Los creadores del lenguaje escribieron un artículo más reciente
titulado "El nacimiento de Prolog" en 1992, que proporciona una perspectiva más
amplia sobre los orígenes de Prolog.
• OPS5, también conocido como Official Production System 5, es un lenguaje de
programación diseñado específicamente para ingeniería cognitiva. Permite la
representación del conocimiento mediante el uso de reglas. Si bien puede que no
sea tan reconocido como otros lenguajes de programación, OPS5 tiene la distinción
de ser el primer lenguaje empleado con éxito en el desarrollo de sistemas expertos.
Es parte de la familia de lenguas de la OPS, también conocida como Sistema de
Producción Oficial, y fue creada por el Dr. Charles Forgy a finales de los años 1970.
El algoritmo fundamental de OPS5, conocido como "Algoritmo Rete", sirve de base
para numerosos sistemas actuales. El Dr. Charles Forgy introdujo este algoritmo
como parte de su tesis doctoral en 1979.
• Small talk es el resultado de una extensa investigación encaminada a diseñar un
sistema informático específicamente adaptado al ámbito de la educación. El
principal objetivo era crear un sistema que fomentara y potenciara la creatividad
de sus usuarios, proporcionándoles un entorno propicio para la experimentación,
la creación y la investigación. Este lenguaje, desarrollado bajo la dirección de Alan
Kay, fue un esfuerzo innovador en la búsqueda de la creación de una
"computadora personal" verdaderamente completa. Sus orígenes se remontan a la
Pág. 15
tesis doctoral de Kay, que completó como estudiante en la Universidad de Utah
en 1969.
Este lenguaje no sólo introdujo un entorno de desarrollo visualmente atractivo y
fácil de usar, sino que también revolucionó el mundo de la programación al
introducir el concepto de objetos y cambiando fundamentalmente los paradigmas
de programación existentes. Si bien existen ciertas costumbres compartidas y
pasos generales en el desarrollo de aplicaciones entre los programadores, trabajar
con Smalltalk es una experiencia altamente personalizada, en la que cada
individuo configura el entorno y utiliza las herramientas a su manera. Este
lenguaje interrumpe por completo el ciclo tradicional de
escritura/compilación/ejecución, reemplazándolo con un proceso interactivo y
creativo. En palabras del propio Kay, “El propósito del proyecto Smalltalk es
proporcionar soporte computacional al espíritu creativo que reside en cada
persona” (Ingalls, 1981). Las ideas y principios empleados en el desarrollo de
Smalltalk sirven como base para la programación orientada a objetos (POO)
moderna, aunque la POO tardó varios años en ganar popularidad generalizada.
Además, Smalltalk desempeñó un papel pionero en el desarrollo de interfaces
gráficas de usuario (GUI), allanando el camino para las interfaces sofisticadas que
vemos en las aplicaciones de software actuales. En particular, Kay continúa
involucrada en el desarrollo de Smalltalk a través de iniciativas de código abierto
como Squeak y Croquet.
• Logo: Seymour Papert, matemático y educador de Sudáfrica, colaboró con el
renombrado educador Jean Piaget en la Universidad de Ginebra de 1959 a 1963.
Después de esto, Papert se mudó a los Estados Unidos de América, donde se cruzó
con Marvin Minsky, un científico altamente dedicado. en el campo de la
Pág. 16
inteligencia artificial durante esa época. Juntos cofundaron el Laboratorio de
Inteligencia Artificial del MIT. A través de la colaboración con de Bolt, Beranek y
Newman, liderados por Wallace Feurzeig, el trabajo de Papert dio como resultado
la creación de la versión inicial de Logo en 1967. Este lenguaje de programación,
que está basado en Lisp, incorpora numerosos conceptos asociados al
construccionismo. Reconocido por su naturaleza fácil de usar, Logo se ha
convertido en una herramienta preferida para involucrar a niños y jóvenes en la
programación. Según Harold Abelson, "Logo" abarca tanto una filosofía de la
educación como una familia de lenguajes de programación en continua evolución
que contribuyen a su implementación." Uno de los objetivos principales de este
lenguaje era establecer un medio para la interacción efectiva entre humanos y
computadoras.
1.4 Las aplicaciones
Los primeros éxitos en la investigación de la IA se pueden observar en el campo
del lenguaje. Un ejemplo de reconocimiento global es el programa llamado "Eliza",
desarrollado por el profesor Joseph Weizenbaum en el Instituto Tecnológico de
Massachusetts entre 1964 y 1966. Eliza, uno de los primeros programas en procesar el
lenguaje natural, atrajo la atención tanto de partidarios como de escépticos de la IA.
Weizenbaum pretendía crear un programa capaz de entablar conversaciones de texto
coherentes con humanos.
Esta famosa demostración simuló al reconocido psicólogo Carl Rogers, quien
contribuyó al desarrollo de la terapia centrada en la persona. Weizenbaum también
expresó su preocupación por la IA en su libro "Computer Power and Human Reason",
destacando la posible pérdida de libertades civiles si la IA no se utiliza de manera
Pág. 17
responsable, a pesar de sus enormes oportunidades. Otro ámbito en el que se produjeron
aplicaciones de IA de gran éxito fueron las ciencias naturales. Estas aplicaciones allanaron
el camino para los principios de almacenamiento y manipulación de bases de
conocimiento en sistemas expertos.
Un sistema experto se define como una aplicación informática que resuelve
problemas complejos que normalmente requerirían una amplia experiencia humana. Uno
de los primeros sistemas expertos, conocido como "Dendral", fue desarrollado por
Edward Feigenbaum en el Instituto Carnegie de Tecnología. Feigenbaum fue
influenciado por el trabajo de otros investigadores influyentes como John Von Newman
inicialmente y luego Herbert Simon y Allen Newell. El interés de Feigenbaum por
estudiar los procesos mentales humanos se despertó cuando Newell anunció en su clase
los primeros modelos informáticos del pensamiento y la toma de decisiones humanos.
Así, la evolución de la inteligencia artificial ha estado marcada por diferentes
etapas, algunas enfrentando escepticismo y otras conduciendo a avances significativos.
Los sistemas expertos, el procesamiento del lenguaje y las aplicaciones de las ciencias
naturales han desempeñado papeles esenciales en el desarrollo de la IA. Además,
investigadores como Weizenbaum y Feigenbaum han contribuido enormemente al
campo, tanto en términos de aplicaciones innovadoras como de consideraciones
reflexivas sobre las implicaciones éticas de la IA. Desde sus inicios, la inteligencia artificial
ha pasado por varias etapas, cada una con su propio nivel de motivación y financiación
para la investigación.
Algunas etapas fueron recibidas con escepticismo sobre los logros de la IA,
mientras que otras estuvieron marcadas por avances y avances significativos. No
obstante, incluso en momentos en que un camino parecía cerrarse, surgieron nuevas
oportunidades que permitieron a la IA seguir progresando y arrojando resultados
Pág. 18
fructíferos. Entre las aplicaciones destacadas de la IA, los sistemas expertos destacan
como uno de los productos más destacados. Estos sistemas han desempeñado un papel
crucial en el resurgimiento de la IA cuando necesitaba un impulso. De hecho, los sistemas
expertos ahora son ampliamente reconocidos como productos típicos de IA.
El equipo de Feigenbaum se embarcó en un nuevo proyecto en la Universidad de
Stanford de 1972 a 1980. Este sistema experto introdujo el uso de conocimientos
imprecisos y la capacidad de explicar el proceso de razonamiento de la herramienta. Si
bien Feigenbaum dirigió inicialmente el proyecto, Shortliffe y sus colaboradores lo
completaron utilizando Lisp. La importancia de este sistema radica en demostrar la
eficacia de su esquema de representación del conocimiento y sus técnicas de
razonamiento, que influyeron en gran medida en el desarrollo de sistemas basados en
reglas tanto en el campo médico como en el no médico. Mycin, cuyo objetivo era
diagnosticar enfermedades sanguíneas infecciosas, ejemplifica el impacto de este
proyecto.
En lugar de centrarse en la toma de decisiones, Feigenbaum centró su atención en
estudiar la memorización y creó un programa llamado EPAM (Elementary Perceiver and
Memorizer). Una contribución significativa del trabajo de Feigenbaum en inteligencia
artificial fue el desarrollo de "redes de discriminación", que luego pasaron a formar parte
de la investigación de redes neuronales. A principios de la década de 1960, Feigenbaum
trabajó en una aplicación relacionada con un espectrómetro de masas y se dio cuenta de
la necesidad de una base de conocimientos para utilizar los programas.
En 1965, Feigenbaum y su colega Robert K. Lindsay desarrollaron Dendral, el
primer sistema experto exitoso, que tenía la capacidad de deducir información sobre
estructuras químicas basándose en el conocimiento de química de Feigenbaum. A pesar
de las críticas de algunos investigadores que creían que la especialización de Dendral en
Pág. 19
química limitaba su utilidad, Feigenbaum no se inmutó y formuló "El principio del
conocimiento", que enfatiza que el razonamiento es inútil sin conocimiento.
1.5 Los ambientes de desarrollo
En la década de 1980, los sistemas expertos experimentaron un gran éxito, lo que
llevó al surgimiento de un nuevo desarrollo conocido como shells. Los shells son
programas de software que sirven como interfaz para los usuarios. Los sistemas expertos
constan de dos componentes principales: una base de conocimientos y un motor de
inferencia. La base de conocimientos contiene información relacionada con un problema
o fenómeno específico, codificada mediante diversas técnicas como reglas, predicados,
redes semánticas y objetos.
El motor de inferencia, por otro lado, combina hechos y preguntas utilizando la
base de conocimientos para generar resultados relevantes. En el contexto de los sistemas
expertos, un shell es una herramienta diseñada para simplificar el proceso de desarrollo
e implementación. Esencialmente, es un "sistema experto" con una base de conocimientos
vacía pero equipado con las herramientas necesarias para poblar la base de conocimientos
para una aplicación particular.
Los shells también proporcionan al ingeniero del conocimiento funcionalidades
adicionales como mecanismos de representación del conocimiento, mecanismos de
inferencia, componentes explicativos y, a veces, incluso una interfaz de usuario. Estos
entornos de desarrollo han ganado popularidad porque permiten la creación de sistemas
expertos eficientes sin requerir amplios conocimientos de programación. Esto ha
convertido a los shells en una opción popular para desarrollar sistemas expertos en
diversos dominios del conocimiento.
Pág. 20
1.6 Inteligencia artificial, educación y tecnologías: ¿buenas o malas?
¿Se toman decisiones arbitrarias sobre nuestra identidad y nuestras vidas? ¿Crean
violencia a través de un juego en red? ¿Mejoran la educación? ¿democratizan el
conocimiento? ¿Quién tiene la verdad? ¿Dónde está el equilibrio? Encontrar respuestas a
estas preguntas no es una tarea sencilla. La conclusión nunca es sencilla. Las tecnologías
no pueden examinarse de forma aislada. Culpar a Internet únicamente por la difusión de
información falsa o discursos de odio pasa por alto la sociedad en la que se genera, circula
y comparte este contenido.
De manera similar, cuando se trata de Inteligencia Artificial, ¿deberíamos
reevaluar nuestro sistema educativo? ¿Deberíamos adaptar nuestro enfoque de la
educación frente a la Inteligencia Artificial? No se trata sólo del contenido en sí, sino
también de cómo los individuos utilizan y comparten esa información. En el mundo
interconectado de hoy, los fenómenos sociales están cada vez más entrelazados, y atribuir
responsabilidad a un solo factor, actor o dimensión simplifica demasiado la cuestión y
pasa por alto los intrincados contextos.
Durante décadas, e incluso hoy, existe una dicotomía en la percepción de las
pantallas. Han sido vilipendiados como enemigos de la cultura y elogiados como un
medio de democratización. Dependiendo de la perspectiva de cada uno, las pantallas
pueden ser vistas como responsables de "la desaparición de la infancia" o como una
solución al bajo rendimiento educativo, el aislamiento social y las brechas de
comunicación dentro de las familias. A pesar de las divisiones ideológicas, ambas
perspectivas tienen algo en común: son "mediocéntricas", es decir, ponen excesivo énfasis
en los medios y la tecnología en el debate, atribuyéndoles un inmenso poder, ya sea para
destruir o crear.
Pág. 21
Lo mismo se aplica a la Inteligencia Artificial y su impacto en la educación. Es
crucial considerar no sólo la tecnología en sí sino también cómo se utiliza y el contexto en
el que opera. En nuestro mundo complejo e interconectado, culpar a un solo factor o
dimensión simplifica demasiado la cuestión en cuestión. Durante décadas ha habido un
debate en torno al papel de las pantallas en la sociedad. Ambos han sido denunciados
como perjudiciales para la cultura y aclamados como una herramienta para la
democratización.
Dependiendo de la perspectiva adoptada, se ha culpado a las pantallas de
erradicar la infancia o se ha elogiado su capacidad para abordar los fracasos educativos,
el aislamiento social y los desafíos de comunicación dentro de las familias. A pesar de sus
diferentes ideologías, ambos puntos de vista comparten algo en común: son
"mediocéntricos", lo que significa que ponen excesivo énfasis en los medios y la
tecnología en la discusión, dotándolos de un poder significativo, ya sea para la
destrucción o la construcción.
Aunque sostienen posiciones ideológicas diferentes, ambos enfoques comparten
una característica común: son "mediocéntricos", lo que significa que colocan a los medios
y las tecnologías al frente de la discusión y les atribuyen una cantidad significativa de
influencia (ya sea con fines destructivos o constructivos).
La presencia de pantallas por sí sola no promueve el individualismo ni la
sociabilidad. no obstaculizan el aprendizaje ni mejoran la calidad de la enseñanza, no son
la causa de la desigualdad ni el catalizador de la democracia y la igualdad. La tecnología
no nos aísla ni fomenta la participación. ¿Entonces, dónde vamos desde aquí? La clave
está en luchar por dos objetivos simultáneamente:
Pág. 22
• En primer lugar, no debemos culpar únicamente a la tecnología por la difusión de
contenidos falsos o discriminatorios en las plataformas de redes sociales.
• Tampoco debemos responsabilizar a la tecnología por el uso no autorizado de la
información privada de los individuos por parte de empresas o gobiernos.
• Por último, no podemos atribuir únicamente a la tecnología el diseño de
algoritmos y sistemas de inteligencia artificial que toman decisiones por los
usuarios, discriminan, censuran o perpetúan desigualdades.
Sin duda, las tecnologías tienen cierta responsabilidad en todos estos escenarios.
Sin embargo, también debemos considerar a los ciudadanos que utilizan estas tecnologías
y la urgente necesidad de que comprendan las implicaciones sociales, políticas,
económicas y culturales que la tecnología e Internet tienen en sus vidas y comunidades.
Es en este contexto donde la educación juega un papel crucial.
Para abordar los problemas actuales que surgen del uso de Internet, es crucial
contar con una política pública integral y un sistema educativo que prepare a docentes y
estudiantes para convertirse en ciudadanos digitales responsables. Es esencial que tanto
profesores como estudiantes puedan identificar, comprender y responder eficazmente a
los desafíos que presenta Internet. Deben ser conscientes de sus derechos y
responsabilidades en el mundo digital y estar equipados con el conocimiento y las
habilidades para defenderlos y hacerles valer cuando sea necesario. El objetivo es evitar
situaciones en las que una sola foto o perfil en línea pueda tener un impacto perjudicial
en el futuro de alguien, o en las que las decisiones se tomen mediante algoritmos o
sistemas de inteligencia artificial sin intervención humana.
1.7 IA: significado
Pág. 23
En nuestra vida personal, la IA se hace evidente cuando capturamos momentos a
través de la fotografía. El algoritmo integrado en nuestros teléfonos inteligentes puede
identificar y detectar rápidamente los rostros de las personas presentes en la imagen, lo
que nos permite etiquetarlos cómodamente cuando compartimos las fotos en nuestros
perfiles de redes sociales. Esto ejemplifica aún más el papel omnipresente de la
inteligencia artificial en nuestras actividades diarias.
La influencia de la IA comienza desde el comienzo de nuestro día. Podemos
indicarle a un altavoz inteligente que nos despierte a una hora determinada, y va más allá
sugiriendo la vestimenta adecuada según el pronóstico del día. Además, la IA desempeña
un papel importante en nuestra capacidad para comunicarnos de forma eficaz al
proporcionar traducción automática de idiomas e incluso ayudarnos a rectificar nuestros
errores ortográficos. Las instituciones bancarias se benefician enormemente de la
inteligencia artificial, ya que ayuda a organizar y gestionar de manera eficiente grandes
cantidades de datos. Además, los médicos confían en la IA para evaluar a los pacientes y
evaluar sus posibles riesgos para la salud.
La inteligencia artificial se ha convertido sin problemas en una parte integral de
nuestra vida cotidiana. Su presencia se puede observar en diversos escenarios como
cuando una cámara en una carretera identifica eficientemente la matrícula de un auto, o
cuando confiamos en la tecnología GPS para navegar y encontrar la ruta óptima. Incluso
cuando hacemos una llamada telefónica y nos encontramos con un sistema automatizado
que pretende ayudarnos a resolver un problema, la inteligencia artificial está en juego.
Además, las plataformas de contenido aprovechan la IA para recomendar películas o
canciones adecuadas según nuestras preferencias, y nuestros teléfonos móviles utilizan
la IA para reconocer nuestras huellas dactilares o rostros únicos por motivos de
seguridad.
Pág. 24
Además, los avances en la tecnología de IA han llevado al desarrollo de máquinas
capaces de realizar llamadas telefónicas para realizar reservas en restaurantes. Estas
máquinas entablan conversaciones que se parecen mucho a las interacciones entre dos
individuos, incluidas inflexiones de tono naturales, vacilaciones ocasionales e incluso un
toque de informalidad. Sorprendentemente, las personas que contestan estas llamadas
telefónicas a menudo no saben que se están comunicando con una máquina.
La pura maravilla de esta hazaña tecnológica es innegablemente cautivadora,
enciende nuestra imaginación y nos impulsa a imaginar las vastas posibilidades que
ofrece dicha tecnología. Los robots de IA desempeñan un papel crucial en la industria de
la salud, ya que mejoran las capacidades físicas de los cirujanos y ayudan
significativamente en las intervenciones quirúrgicas. Además, la implementación de
sistemas de inteligencia artificial tiene el potencial de impulsar nuevos descubrimientos
científicos y contribuir al crecimiento de la economía.
Una ventaja notable de la IA es su impresionante capacidad de memoria, que le
permite manejar cálculos extensos y, en última instancia, mejorar la productividad en
diversas funciones laborales. Un ejemplo convincente de esto se demostró en un estudio
realizado por el prestigioso Instituto de Tecnología de Massachusetts (MIT), donde los
investigadores pretendían evaluar el impacto de ChatGPT, un sistema de inteligencia
artificial basado en lenguaje, en la productividad de la preparación de documentos. En
este experimento, se seleccionaron 444 personas para completar una tarea de escritura en
línea, la mitad de ellos utilizó el sistema de inteligencia artificial y la otra mitad no. Los
hallazgos revelaron que aquellos que utilizaron ChatGPT exhibieron habilidades de
escritura más rápidas y precisas en comparación con aquellos que no lo hicieron. En
consecuencia, el estudio concluyó que la IA aumentó significativamente la productividad
Pág. 25
al reducir el tiempo necesario para completar las tareas y elevar la calidad general del
trabajo.
Pág. 26
Capítulo 2
Inteligencia artificial, aprendizaje y ética. ¿Cómo funciona?
Para que la inteligencia artificial sea capaz de realizar tareas similar a un ser
humano, debe recopilar y almacenar datos para su futura clasificación y organización.
Luego, la IA procesa estos datos para resolver tareas, tomar decisiones y producir
resultados. El sistema de IA se alimenta esencialmente de información, que almacena,
analiza, clasifica y organiza. Su base radica en los datos, ya que identifica patrones y
probabilidades dentro de esos datos, los codifica, los procesa y los organiza para generar
un modelo.
Este modelo está diseñado específicamente para tomar decisiones y brindar
respuestas basadas en instrucciones específicas. Un excelente ejemplo de cómo funciona
la IA lo demuestran los motores de búsqueda de Internet, que pueden predecir y
completar palabras u oraciones a medida que escribimos. De manera similar, los sistemas
de inteligencia artificial pueden evaluar si un cliente potencial será capaz de pagar un
préstamo bancario antes de que se le conceda.
El mecanismo subyacente de la inteligencia artificial son los algoritmos, que son
secuencias sistemáticas de pasos que proporcionan instrucciones lógicas para los
cálculos, la resolución de problemas y la toma de decisiones. Los algoritmos sirven como
un medio para lograr un resultado deseado. A modo de ejemplo, consideremos una receta
de cocina, que puede verse como un algoritmo, ya que sus pasos tienen como objetivo
resolver el problema de preparar una comida. Sin embargo, una receta por sí sola no
puede hacer una sopa; requiere que una persona lea y ejecute los pasos.
No obstante, es factible crear una máquina de inteligencia artificial que incorpore
este algoritmo y prepare la sopa automáticamente. Ejemplos de sistemas de inteligencia
Pág. 27
artificial incluyen GPS, traductores automáticos de idiomas y teléfonos móviles con
reconocimiento de huellas dactilares, todos los cuales han sido alimentados con datos y
organizados en algoritmos para realizar acciones específicas como sugerir la mejor ruta,
traducir texto o desbloquear una pantalla.
Los algoritmos tienen varios propósitos, uno de los cuales es predecir
comportamientos. Esto se evidencia en los algoritmos desarrollados por Netflix y Spotify,
donde analizan las preferencias de los usuarios para sugerir películas, series o canciones
de su interés. Asimismo, los sistemas de inteligencia artificial basados en lenguaje se han
vuelto lo suficientemente avanzados como para responder a nuestras consultas y generar
contenido nuevo basado en la información en la que han sido entrenados. Estos sistemas
se han integrado tanto en nuestra vida diaria que a menudo confiamos en ellos como
recordatorios, orientación y toma de decisiones. Nos sorprenden las capacidades de la IA
y, a menudo, idealizamos sus beneficios. Sin embargo, es importante reconocer los
peligros potenciales de naturalizar la IA y los algoritmos sin analizar críticamente su
diseño e impacto. Para ilustrar este punto, podemos compararlo con la historia de dos
peces que estaban tan acostumbrados a su entorno acuático que nunca cuestionaron su
existencia. De manera similar, nos hemos acostumbrado tanto a la IA en nuestras vidas
que rara vez nos detenemos a considerar sus implicaciones. Por lo tanto, debemos dar un
paso atrás y examinar críticamente cómo se diseñan e implementan la IA y los algoritmos.
Para comprender completamente el impacto y el funcionamiento de la inteligencia
artificial, es crucial profundizar en los mecanismos explícitos que impulsan su proceso
de toma de decisiones, particularmente cuando esas decisiones afectan directamente
nuestras vidas. Es fundamental evitar caer en la trampa del tecnochovinismo, que supone
que la tecnología siempre proporciona las soluciones que buscamos o necesitamos.
Pág. 28
Si bien es innegable que la IA aporta numerosos beneficios a nuestra vida diaria,
como avances en la atención sanitaria, el desarrollo de medicamentos que salvan vidas y
posibles soluciones a problemas medioambientales, no debemos pasar por alto las
dimensiones éticas de su funcionamiento y diseño. Es importante reconocer que existen
límites a lo que debemos hacer con la tecnología y, de la misma manera, existen límites a
lo que la tecnología debe hacer con sus usuarios. Nuestra prioridad siempre debe ser
garantizar que los sistemas de IA se empleen de manera que sirvan a los mejores intereses
de las personas, las sociedades y el medio ambiente. Es de destacar, que los enormes
beneficios de la inteligencia artificial son de poca importancia si los cimientos sobre los
que se asienta son inestables.
2.1 La discriminación y la desigualdad
En contraste con la imagen idealizada, existen crecientes preocupaciones y
llamadas de atención en torno a la inteligencia artificial. Si bien el potencial de la IA en
nuestra vida diaria es innegablemente fascinante, es importante reconocer que no todo es
admirable. El diseño y funcionamiento de los sistemas de IA han generado señales de
alerta y preocupaciones globales. Para comprender plenamente la naturaleza de estas
preocupaciones, profundicemos en cómo funciona la IA.
Básicamente, la IA depende en gran medida de los datos. Almacena, organiza y
clasifica estos datos y luego los utiliza para crear modelos, responder a instrucciones,
tomar decisiones y producir resultados. Para ilustrar esto, consideremos un ejemplo
simple de un sistema de inteligencia artificial diseñado para diferenciar entre manzanas
y naranjas. Para entrenar el sistema, debemos proporcionarle un conjunto de datos que
consta de varias imágenes de manzanas y naranjas. Sin embargo, si solo alimentamos al
sistema con imágenes de manzanas rojas y no con manzanas verdes, es posible que el
Pág. 29
sistema de aprendizaje automático infiera que todas las manzanas son rojas. En
consecuencia, es posible que no reconozca una manzana verde como manzana debido a
su entrenamiento. Este ejemplo destaca el papel fundamental del conjunto de datos de
entrenamiento en los sistemas de IA.
Un caso alarmante de 2014 que involucró a Amazon ejemplifica los peligros
potenciales de los sistemas de inteligencia artificial. La empresa buscó automatizar el
proceso de recomendación y contratación de personal mediante el desarrollo de un
sistema de inteligencia artificial que seleccionaría a los cinco mejores candidatos para un
puesto de trabajo entre un grupo de cien currículos. Sin embargo, surgió un problema
importante cuando el sistema de inteligencia artificial diseñado por los programadores
de Amazon mostró un sesgo contra las mujeres. No tuvo en cuenta los currículos de
candidatas que habían asistido a universidades para mujeres e incluso marginó los
currículos que incluían la palabra "mujer". Este incidente demuestra las graves
repercusiones que pueden surgir de sistemas de IA defectuosos.
El sistema de IA responde al objetivo de diferenciar manzanas de naranjas en
función de los datos con los que ha sido entrenado. En el caso del ejemplo antes
mencionado, si se le alimentaron exclusivamente imágenes de manzanas rojas, nunca
identificará manzanas verdes como manzanas. Si bien este ejemplo puede parecer
relativamente inofensivo, sirve como recordatorio de los riesgos potenciales asociados
con un diseño incorrecto de la IA. En casos más graves, los sistemas de IA que aplican
una lógica defectuosa similar podrían generar problemas importantes.
El modelo exhibía un evidente sesgo contra las mujeres, ya que no recomendaba
ningún plan de estudios para mujeres. Este problema surgió de los datos erróneos con
los que se había entrenado el sistema de IA. A lo largo de diez años, la empresa había
contratado predominantemente ingenieros varones, lo que dio lugar a que los modelos
Pág. 30
recibieran formación únicamente con planes de estudios masculinos. En consecuencia, la
IA había aprendido a recomendar sólo la contratación de hombres. Dado que la
información ingresada en el sistema se basó en los CV de los hombres, no sorprende que
no reconociera los CV de las mujeres.
Sin embargo, Amazon encontró un problema mayor en el camino: un resultado
claramente discriminatorio contra las mujeres. Vale la pena señalar que la falta de
diversidad en la fuerza laboral de Amazon es anterior a la implementación del sistema
inteligente, siendo la mayoría de los empleados hombres. Si bien, el sistema de IA
perpetuó esta desigualdad y no dejó lugar para cambios futuros. Los diseñadores del
sistema habían creado un modelo que mantenía y reforzaba la desigualdad en las
prácticas de contratación. Las herramientas de contratación del futuro estaban siendo
moldeadas por las prácticas discriminatorias del pasado y del presente. En consecuencia,
el resultado fue una máquina de discriminación que se perpetuó haciéndose pasar por
técnicamente neutral.
Lo anterior no es un incidente aislado, ya que ha habido otros casos en los que la
IA ha producido resultados discriminatorios. Por ejemplo, el Wall Street Journal realizó
un análisis que reveló precios diferenciales en Staples.com, donde a los clientes se les
cobraban precios variables por una grapadora simple según el código postal que
proporcionaban durante el registro. De manera similar, investigadores de la Universidad
Northeastern descubrieron que a los clientes que navegaban por la tienda
HomeDepot.com se les ofrecían precios diferentes dependiendo de si accedían al sitio
web desde un dispositivo móvil o una computadora de escritorio. Estos ejemplos resaltan
cómo los sistemas de IA pueden amplificar inadvertidamente las desigualdades sociales
bajo el pretexto de la neutralidad.
Pág. 31
Estos ejemplos sirven como evidencia clara de los sesgos que la inteligencia
artificial puede perpetuar. Es fundamental abordar y rectificar estos sesgos para
garantizar que los sistemas de IA sean justos y equitativos para todas las personas.
Además, un algoritmo diseñado recientemente produjo resultados sorprendentes
durante las pruebas. Al algoritmo se le dieron varias ecuaciones para resolver y respondió
correctamente a ecuaciones como "El hombre es para un rey lo que las mujeres son para
reina" y "París es para Francia lo que Tokio es para Japón". Sin embargo, el problema
surgió con la ecuación "El hombre es programador informático lo que la mujer es para
ama de casa".
La respuesta del algoritmo reveló un resultado discriminatorio, ya que no había
sido entrenado con datos que incluyeran programadoras. Esta omisión pone de relieve
cómo los sesgos dentro de los sistemas de IA pueden afectar negativamente la vida de las
personas. Se sabe que los sistemas de inteligencia artificial exhiben importantes prejuicios
raciales, como lo demuestran incidentes como el video viral de una máquina
expendedora de jabón en 2017. En este video, la máquina dispensaba jabón
constantemente cuando una persona blanca colocaba su mano debajo, pero fallaba al
hacerlo una persona negra repitió la misma acción. Este comportamiento discriminatorio
persistió incluso después de múltiples intentos, lo que indica que el sistema de
inteligencia artificial detrás de la máquina fue diseñado con datos incompletos y
erróneos, lo que dio lugar a resultados sesgados y racistas.
Los bancos utilizan algoritmos para permitir que los sistemas de inteligencia
artificial hagan predicciones sobre las aprobaciones y rechazos de préstamos. De manera
similar a la situación con Amazon y su herramienta de selección de currículum vitae, los
bancos proporcionan a la IA datos e información de personas a las que se les han
concedido préstamos anteriormente y luego solicitan al sistema que analice y clasifique
Pág. 32
esta información. El objetivo es generar un modelo que pueda ser utilizado para
determinar la aprobación o rechazo de futuras solicitudes de crédito.
Desafortunadamente, en Estados Unidos surgieron problemas con este sistema de
inteligencia artificial diseñado específicamente para bancos. Se descubrió que los datos
suministrados a la IA se basaban predominantemente en personas que ya habían recibido
préstamos del banco, la mayoría de los cuales eran blancos y pertenecían a la clase
económica media. En consecuencia, cuando personas negras, indígenas y
económicamente desfavorecidas solicitaron préstamos, continuaron siendo rechazados
de manera desproporcionada. Esto se debió principalmente al hecho de que,
históricamente, a muy pocas de estas personas se les habían concedido préstamos.
Los sistemas de reconocimiento facial también plantean riesgos de sesgo y
discriminación. Las agencias de seguridad, como la Administración de Seguridad del
Transporte de Estados Unidos, desarrollaron programas como SPOT para monitorear las
expresiones faciales de los viajeros después del 11 de septiembre, con el objetivo de
identificar automáticamente a posibles terroristas. Sin embargo, este enfoque se basa en
94 criterios que supuestamente indican estrés, miedo o engaño. Desafortunadamente, las
personas que están naturalmente estresadas, incómodas con los interrogatorios o que
tienen experiencias negativas con las fuerzas del orden o el control fronterizo pueden
verse injustamente en desventaja y recibir puntuaciones más altas.
Uno de los riesgos inherentes a los sistemas de reconocimiento facial es la escasez
de datos disponibles para entrenarlos y su incapacidad para considerar factores
contextuales. Simplemente capturan una instantánea del momento, sin tener en cuenta
los matices de las situaciones individuales. El impacto de la IA en la perpetuación de la
desigualdad es una cuestión compleja que a menudo resulta difícil de comprender
plenamente.
Pág. 33
Un desafío importante es que las personas a las que se les niegan préstamos, por
ejemplo, tal vez nunca comprendan realmente por qué se rechazó su solicitud o se den
cuenta de que la decisión fue tomada por un sistema de inteligencia artificial que opera
con modelos y diseños sesgados. En 2023, Human Rights Watch, una destacada
organización de derechos humanos, reveló que un algoritmo financiado por el Banco
Mundial, conocido como Takaful, excluía a las familias elegibles en Jordania de recibir
ayuda financiera. Takaful clasifica a las familias basándose en 57 indicadores
socioeconómicos, pero los solicitantes argumentan que este cálculo no refleja con
precisión sus circunstancias económicas y simplifica demasiado su situación, lo que
conduce a resultados injustos e inexactos.
La dependencia del algoritmo de indicadores como el consumo de agua y
electricidad, que no necesariamente se correlacionan con la pobreza, resalta aún más las
fallas del sistema. Algunas familias incluso creían que tener un coche,
independientemente de su antigüedad y necesidad de trabajo, afectaba negativamente a
su clasificación. Human Rights Watch concluyó que la objetividad estadística del
algoritmo enmascara una realidad más compleja, donde las luchas económicas y los
esfuerzos por superarlas a menudo son invisibles para el algoritmo.
La inteligencia artificial (IA) tiene un impacto significativo en la vida cotidiana de
las personas, y a menudo exacerba las desigualdades y perpetúa la inequidad. Su
influencia se puede observar en diversos aspectos, como la determinación de la
aprobación de visas, la evaluación de solicitudes de préstamos bancarios, la selección de
candidatos para empleos, la concesión de becas para estudiantes y la asignación de
subsidios sociales a personas de bajos ingresos.
Esta influencia es particularmente preocupante debido al hecho de que los
sistemas de IA se basan en datos incompletos o erróneos, lo que puede dar lugar a
Pág. 34
resultados discriminatorios. El reconocimiento de estos sesgos ha llevado a 193 países de
todo el mundo a firmar una Recomendación sobre la ética de la inteligencia artificial,
preparada por la UNESCO en 2021. El documento acordado reconoce que, si bien las
tecnologías de IA pueden aportar inmensos beneficios a la humanidad y a todos los
países, también plantean importantes preocupaciones éticas. Una de esas preocupaciones
es la posibilidad de incorporar y exacerbar sesgos, lo que conduciría a discriminación,
desigualdad, brechas digitales, exclusión y plantearía amenazas a la diversidad cultural,
social y biológica, además de crear divisiones sociales y económicas.
La inteligencia artificial (IA) tiene el potencial de reproducir y perpetuar las
desigualdades existentes y está lejos de ser la entidad neutral y objetiva que a menudo se
percibe. Los sistemas de IA no son simplemente herramientas matemáticas, sino más bien
actores sociales que pueden verse influenciados por la discriminación y los prejuicios. A
pesar de las afirmaciones de objetividad, los algoritmos pueden dar forma al significado
y tomar decisiones controvertidas.
La eficacia de la IA depende en gran medida de la calidad y los sesgos presentes
en los datos de entrenamiento a los que está expuesta. Las decisiones e intenciones de la
empresa detrás del sistema de IA juegan un papel crucial en su diseño. Los datos de
entrenamiento actúan como base para las predicciones de la IA y dan forma a su
percepción del mundo. Sin embargo, las simplificaciones realizadas por los sistemas de
aprendizaje automático pueden generar graves inconsistencias.
Esto se vuelve problemático cuando los sistemas de IA realizan clasificaciones y
etiquetas discriminatorias que impactan directamente en la vida de las personas,
reforzando prejuicios y estereotipos. Es evidente que la inteligencia artificial no es
neutral. Los datos de entrenamiento sesgados pueden dar lugar a resultados erróneos y
discriminatorios. Por ejemplo, si un algoritmo de IA asocia consistentemente ciertas
Pág. 35
características como género, clase social, edad o ideología con la inelegibilidad para
préstamos bancarios, está incurriendo en discriminación.
Los estudios han demostrado que los algoritmos de IA también pueden influir en
las oportunidades y carreras futuras al presentar selectivamente ofertas de trabajo a
determinadas personas en función de su formación académica. Por lo tanto, es crucial
examinar críticamente la dimensión ética de los algoritmos, incluida su construcción,
métodos de clasificación y sesgos. Estas clasificaciones siempre conllevan valores y,
cuando perpetúan la discriminación, distorsionan nuestra percepción de la realidad.
2.2 Las arbitrariedades en las decisiones
En septiembre del año 2016, un conocido escritor noruego llamado Tom Egeland
causó revuelo en las redes sociales cuando compartió una famosa fotografía de la guerra
de Vietnam en su página de Facebook. La imagen, tomada en 1972 por el reportero de la
agencia de noticias AP Nick Ut, captura el desgarrador momento en el que se ve a una
niña de 9 años corriendo desnuda, huyendo de un bombardeo con napalm llevado a cabo
por el ejército de los Estados Unidos en su aldea. Esta poderosa fotografía, conocida como
"La chica del napalm", ganó el prestigioso premio Pulitzer y se ha convertido en una de
las imágenes más emblemáticas del siglo XX.
La intención de Egeland al compartir esta foto era arrojar luz sobre los horrores de
la guerra, específicamente el sufrimiento inimaginable que soportan los niños inocentes.
Sin embargo, el algoritmo de Facebook, diseñado para detectar y eliminar contenido
inapropiado, marcó la imagen debido a la desnudez de la niña. En consecuencia, el perfil
de Egeland fue suspendido, lo que provocó indignación en toda la sociedad nórdica.
Muchos vieron las acciones de Facebook como una forma de censura, un intento de
silenciar un importante documento histórico.
Pág. 36
La protesta contra la decisión de Facebook creció aún más cuando Aftenposten,
uno de los periódicos más leídos de Noruega, decidió solidarizarse con Egeland y publicó
la misma fotografía en su propio perfil. A las pocas horas, el periódico recibió un correo
electrónico de Facebook exigiendo la eliminación de la imagen. Esto llevó al editor jefe de
Aftenposten, Espen Egil Hansen, a dirigirse directamente a Mark Zuckerberg en una
carta abierta impresa en la portada del periódico. En su carta, Hansen expresó su negativa
a cumplir con la solicitud de Facebook de eliminar la fotografía. Criticó al gigante de las
redes sociales por limitar la libertad de expresión en lugar de apoyarla y condenó su
enfoque autoritario.
Este movimiento audaz inspiró a otros en Noruega a seguir su ejemplo,
compartiendo la imagen en sus propias plataformas, solo para encontrarse con las
mismas demandas de Facebook para eliminarla. La empresa justificó sus acciones citando
su política contra la publicación de contenido explícito. El incidente que involucró la
fotografía de "La chica del napalm" y la respuesta de Facebook provocaron un importante
debate sobre el poder y la responsabilidad de las plataformas de redes sociales a la hora
de controlar el contenido compartido por sus usuarios. También planteó dudas sobre el
equilibrio entre proteger a los usuarios de material dañino u ofensivo y preservar el
derecho a expresar libremente acontecimientos históricos importantes.
El tema en cuestión recibió una atención significativa, lo que llevó incluso a la
Primera Ministra noruega, Erna Solberg, a expresar su preocupación al respecto. Solberg
recurrió a su cuenta de redes sociales para expresar su desacuerdo con la decisión de
Facebook de censurar fotografías como la en cuestión. En su publicación, enfatizó el
significado de la imagen, afirmando que ocupa un lugar en la historia universal ya que
captura la desgarradora realidad de una joven que huye de los horrores de la guerra.
Pág. 37
Para enfatizar aún más su punto, la Primera Ministra compartió la fotografía
icónica junto con sus palabras. En sus comentarios finales, Solberg destacó cómo actos
como la censura de Facebook sólo sirven para limitar la libertad de expresión. Sin
embargo, tras una protesta pública masiva, la empresa finalmente rectificó su postura,
revocando su decisión y restableciendo tanto las imágenes censuradas como las cuentas
eliminadas de las personas que habían compartido la fotografía. Este incidente sirve como
un claro y serio ejemplo de los peligros potenciales asociados con los algoritmos y los
sistemas de inteligencia artificial. En lugar de ser neutrales, estos sistemas están
diseñados con ciertos sesgos y sus decisiones pueden tener consecuencias de largo
alcance, afectando incluso los fundamentos mismos de la democracia, como lo demuestra
este caso particular.
Un incidente similar ocurrió en Instagram con un cartel promocional de la película
"Madres paralelas" de Pedro Almodóvar. La película se centra en la historia de Janis y
Ana, dos mujeres que se conocen en una habitación de un hospital donde están a punto
de dar a luz. El cartel mostraba un pezón con una gota de leche, lo que Instagram
consideró "contenido erótico o pornográfico". Sorprendentemente, Instagram eliminó
todas las publicaciones que mostraban el cartel, incluidas las de su propio diseñador,
Javier Jaén.
Jaén expresó su decepción y volvió a compartir la imagen, resaltando lo absurdo
de la situación. Sostuvo que Instagram se equivocó al etiquetar su trabajo como peligroso
y pornográfico, ya que simplemente representaba una imagen natural y universal
asociada con el nacimiento. Instagram defendió su decisión afirmando que su tecnología
no puede reconocer el contexto. Sin embargo, este argumento es insuficiente para
justificar la prohibición, ya que el algoritmo debe entrenarse para comprender el contexto.
Pág. 38
Finalmente, Instagram se disculpó y restableció las publicaciones, permitiendo
que el cartel se compartiera en la plataforma. Sin embargo, la decisión inicial de
Instagram, similar a la de Facebook con el escritor noruego, tuvo implicaciones más
amplias. Planteaba un riesgo para la democracia y las libertades individuales, ya que
restringía la difusión del arte y las ideas. Este incidente sirve como recordatorio del poder
y la responsabilidad que tienen las plataformas de redes sociales a la hora de dar forma
al discurso público y la necesidad de que logren un equilibrio entre regular el contenido
y preservar la libertad de expresión.
En otro incidente, la periodista Carole Cadwalladr de The Guardian arrojó luz
sobre los peligros potenciales de los algoritmos de los motores de búsqueda. En su
artículo, relató un experimento en el que escribió "¿Sucedió el Hol...?" en el motor de
búsqueda de Google. Para su sorpresa, Google completó automáticamente la frase con
"¿Ocurrió el Holocausto?", lo que la llevó a una lista de páginas en línea. El primer enlace
que encontró procedía de un sitio web neonazi llamado "Stormfront", que afirmaba que
el Holocausto nunca ocurrió.
Este descubrimiento generó preocupaciones sobre la forma en que los motores de
búsqueda priorizan y presentan la información. Destacó la necesidad de que los
algoritmos sean más perspicaces y cautelosos para evitar la difusión de información
errónea y discursos de odio. El experimento de Cadwalladr enfatizó las posibles
consecuencias de depender únicamente de la tecnología sin considerar el contexto y las
implicaciones de la información que se comparte. Sirve como recordatorio de que
plataformas como Google deben asumir la responsabilidad de seleccionar contenido
preciso y confiable para garantizar la difusión de información veraz.
Muchas personas tienden a confiar únicamente en el primer resultado de
búsqueda que encuentran cuando utilizan un motor de búsqueda. A menudo no se
Pág. 39
atreven a explorar sitios web adicionales que podrían ofrecer diferentes perspectivas o
contenidos para comparar. Este comportamiento surge de la creencia de que el resultado
mejor clasificado tiene la mayor autoridad y experiencia en el tema determinado. Sin
embargo, es importante reconocer que la primera lista a menudo la determinan quienes
han pagado por una ubicación prioritaria, en lugar de ser un verdadero reflejo de
credibilidad.
El algoritmo de Google, que determina la clasificación de los sitios web, está
diseñado teniendo en cuenta sus propios intereses económicos y comerciales, que pueden
no coincidir con los mejores intereses de los usuarios. Si bien Google afirma operar con
neutralidad, su priorización de contenidos implica una toma de decisiones subjetiva. Esto
resulta preocupante si se tiene en cuenta que la mayoría de los usuarios tienden a
quedarse con el primer enlace que encuentran, lo que podría conducirles a fuentes poco
fiables, como un movimiento neonazi. Semejante jerarquía basada en factores económicos
plantea riesgos importantes. Las posibles consecuencias son evidentes cuando una
persona acepta sin cuestionar la negación del Holocausto gracias al sistema de
clasificación de Google. Google desempeña un papel en la configuración del mundo no
sólo presentándolo sino también participando activamente en su creación. La falta de
transparencia en cuanto a los métodos utilizados para clasificar los sitios web nos impide
evaluar si Google realmente sirve a los intereses de los usuarios o si está sesgado a favor
de sus propios objetivos comerciales. La empresa tiene la capacidad de ocultar contenido
específico que considera indeseable para que lo vean los usuarios.
Al dar prioridad a determinados contenidos, ya no estamos tomando decisiones
objetivas. Esto resulta preocupante si se tiene en cuenta que la mayoría de los usuarios
tienden a quedarse con el primer vínculo que encuentran, incluso si conduce a un
movimiento neonazi. La jerarquía y el sistema de clasificación empleados por Google
Pág. 40
podrían plantear riesgos graves si se prioriza la información sesgada o engañosa.
Desafortunadamente, Google no revela los métodos detrás de sus decisiones y
clasificaciones, lo que dificulta determinar si realmente está sirviendo a los intereses de
los usuarios o simplemente promoviendo su propia agenda comercial. Esta falta de
transparencia permite a Google ocultar contenido que considera no apto para que lo vean
los usuarios.
Este problema se vuelve aún más problemático si se considera que este contenido
oculto a menudo termina colocándose en la parte inferior de los resultados de búsqueda,
donde la gente rara vez llega. La influencia de los sistemas de inteligencia artificial va
más allá de los motores de búsqueda y se extiende a los navegadores y las redes sociales.
Estos sistemas toman decisiones en nuestro nombre, dictando lo que podemos y no
podemos compartir, así como lo que podemos y no podemos ver. Esto afecta
significativamente nuestra percepción y comprensión del mundo, ya que estos sistemas
dan forma a nuestra realidad al ofrecernos selecciones y jerarquías seleccionadas. Por
ejemplo, ¿cómo determina el sistema de recomendación de Netflix qué películas o series
sugerir? ¿Cómo prioriza Amazon determinados libros en nuestras búsquedas? ¿Por qué
Facebook y Twitter destacan historias y noticias específicas en nuestros perfiles sobre
otros? Estas son preguntas que es necesario responder para comprender plenamente el
alcance de la influencia de la inteligencia artificial en nuestras vidas.
2.3 Las huellas digitales
La inteligencia artificial depende de los datos para funcionar, datos que incluyen
la información que se comparte a diario en Internet. Los datos sirven como fuente de
información y pueden verse como una huella digital única. Nuestras actividades en línea,
como búsquedas en Internet, preferencias musicales y opciones de películas, así como
Pág. 41
nuestras interacciones en las redes sociales, revelan aspectos de nuestras vidas y la
privacidad ya no está garantizada.
Internet se ha convertido en la plataforma de nuestra vida privada y ahora ocupa
el dominio público. En la sociedad actual, el valor reside en la exhibición personal y el
deseo de ser notado y reconocido. Internet ha creado una cultura que enfatiza la
visibilidad y la conectividad constante. Este nuevo orden, impulsado por la tecnología,
prioriza ser visto y compartir experiencias. Se ha convertido en una creencia común que
si una experiencia no se comparte y no contribuye al intercambio global de información,
pierde su significado.
La proliferación de pantallas permite a los individuos exhibirse y sirven como
prueba de su existencia. El mantra del siglo XXI podría resumirse en "Muestro, luego
existo". Cada acción realizada en Internet deja una huella digital, que abarca los sitios
web visitados, los vídeos o fotografías vistos, creados y compartidos, los comentarios
realizados, los amigos contactados, las búsquedas realizadas, los artículos leídos e incluso
la música y las películas disfrutadas. Para muchos, la identidad digital es más reveladora
que su personalidad en la vida real, ya que refleja sus verdaderos intereses,
preocupaciones y motivaciones detrás de búsquedas específicas en Internet. Es
importante señalar que esta huella digital es pública y accesible para cualquier persona,
lo que hace que sea difícil borrarla u ocultarla. Tiene el potencial de persistir
indefinidamente.
Nuestras huellas dactilares están meticulosamente registradas y documentadas, y
las empresas tecnológicas actúan como observadoras y explotadoras de esta información.
Fomentan y promueven esta visibilidad porque sus algoritmos y sistemas de inteligencia
artificial prosperan con las huellas que dejamos en Internet. El famoso eslogan de
YouTube, "grábate a ti mismo" o "transmítete a ti mismo", ejemplifica esta mentalidad.
Pág. 42
A través de redes de sensores, cámaras de vigilancia y cookies de sitios web, las
empresas de tecnología monitorean y conocen constantemente nuestros hábitos de
conducción, preferencias de lectura, búsquedas en la web, pasatiempos, uso de
medicamentos y varios otros aspectos de nuestras vidas. Por extraño que parezca,
seguimos siendo en gran medida ajenos a cómo estas empresas utilizan este conocimiento
para influir en nuestras decisiones diarias, así como en las que toman otras empresas.
Cuanto más confiamos en los motores de búsqueda y las plataformas de redes
sociales para satisfacer nuestros deseos y necesidades, mayor poder e influencia tendrán
estas entidades en nuestras vidas. Su verdadera fortaleza reside en su capacidad para
incluir, excluir y clasificar información. Su lema parece ser "cuéntanoslo todo, no te
contengas. Cuanto más reveles, mejor podremos ayudarte. ¡Y no te costará nada!". Sin
embargo, esta noción no es más que un mito. Cada clic que hacemos en la web tiene un
precio. De hecho, las huellas que dejamos en Internet son una fuente de ganancias
económicas. Detrás de cada clic se esconde una empresa de tecnología armada con
programas, algoritmos y sistemas de inteligencia artificial que calculan cómo utilizar y
vender mejor esta información a las partes interesadas, ya sea para ofrecer productos,
servicios o ideas.
Todo esto sucede incluso sin la autorización explícita del usuario. La mayoría de
las personas desconocen cómo se utilizan sus huellas dactilares y cómo dan forma a sus
perfiles e identidades digitales. Muy pocas personas se dan cuenta de que un simple "me
gusta" en Facebook tiene el potencial de obstaculizar futuras oportunidades laborales.
Las empresas tecnológicas diseñan sistemas de inteligencia artificial que, basándose en
nuestros propios datos, pueden recomendar películas o decidir si nos contratan.
Facebook define nuestra esencia, Amazon determina nuestros deseos y Google
moldea nuestros pensamientos. En última instancia, estas entidades dan forma a nuestras
Pág. 43
oportunidades. Las actividades que realizamos en Internet son meticulosamente
estudiadas mediante algoritmos, lo que permite comprender mejor a los usuarios y
ofrecer servicios, productos e ideas personalizados en función de sus identidades
digitales. Por eso se suele decir que no existe Internet gratis. Siempre alguien corre con el
coste, y en este caso es el propio usuario quien paga con el acceso a sus datos y vida
privada a cambio de los servicios digitales supuestamente "gratuitos" que recibe y utiliza.
Por lo tanto, la información se convierte en uno de los bienes más valiosos que ofrecen
las personas cuando navegan en el ámbito en línea. Casi todos los usuarios cederán
voluntariamente sus datos a cambio de estos servicios digitales "gratuitos".
En la era digital actual, las personas voluntariamente entregan su información
privada a cambio de diversas formas de gratificación. Ya sea el deseo de mejorar el
bienestar físico o de mantener una comunicación constante con sus seres queridos, las
personas a menudo están dispuestas a pasar por alto los riesgos potenciales asociados
con compartir información personal. La prevalencia de las plataformas de redes sociales
ejemplifica aún más este fenómeno, ya que las personas divulgan voluntariamente
detalles sensibles, como fotografías, ubicaciones e información personal, a cambio de
validación y aprobación social en forma de me gusta y comentarios.
Esta tendencia se ve acentuada aún más por las asombrosas cifras de ventas de
altavoces inteligentes, que alcanzaron un total mundial de 147 millones de unidades en
2019. Sin embargo, resulta preocupante que una parte importante de quienes compran
estos dispositivos desconocen hasta qué punto sus conversaciones se están registrando y
los propósitos para los cuales se utiliza esta información.
La recopilación de datos sobre el comportamiento y la identidad de las personas
en Internet por parte de las redes sociales y los motores de búsqueda es un proceso
continuo y significativo. El simple hecho de estar conectado a un dispositivo digital
Pág. 44
permite a estas plataformas recopilar información sobre los usuarios, incluidas sus
preferencias, identidades y deseos. Nuestra presencia en línea no sólo nos otorga acceso
a grandes cantidades de información, sino que también nos transforma en fuentes de
datos.
Esta comprensión se ha enfatizado a través de la prevalencia de las redes sociales
y las aplicaciones gratuitas, donde ha quedado claro que cuando algo se ofrece gratis, a
menudo significa que somos nosotros los que estamos siendo explotados. A cambio de
los servicios prestados por estas empresas, sin saberlo, contribuimos a sus beneficios
prestándoles nuestra atención, que puede venderse a los anunciantes, así como nuestros
datos personales, que alimentan sus algoritmos. Este mismo patrón se repite ahora con
los robots de IA, aunque a mayor escala y con nuevas complejidades. A pesar de que
muchos usuarios desconocen cómo las empresas tecnológicas utilizan su información
personal, no pueden ignorar este mecanismo. Argumentar que a uno no le importa el
derecho a la privacidad porque no tiene nada que ocultar es como decir que no le importa
la libertad de expresión porque no tiene nada que decir.
Las empresas acumulan inmensas cantidades de conocimiento sobre nosotros,
pero lamentablemente no es para nuestro beneficio. Mark Zuckerberg, el fundador de
Facebook, alguna vez se jactó de que la plataforma eventualmente conocería cada libro,
película y canción que una persona había consumido en su vida. Además, los modelos
predictivos de Facebook sugerirían incluso qué bar visitar cuando una persona llega a
una nueva ciudad. Básicamente, nuestra información personal se convierte en la principal
fuente de ingresos para las empresas de tecnología, que a menudo venden estos datos a
entidades públicas o privadas previa solicitud. Por ejemplo, el supermercado que
apareció en mi pantalla con sus ofertas mientras leía el periódico probablemente pagó al
buscador para acceder a mi perfil de usuario y consumidor. Es importante que todas las
Pág. 45
personas comprendan la información que las empresas de tecnología poseen sobre ellos,
los motivos de su recopilación, el proceso de autorización y cómo se utiliza.
La medida en que las empresas de tecnología pueden recopilar conocimiento sobre
nosotros es bastante significativa, particularmente a través de nuestras actividades y clics
en línea. De hecho, pueden incluso predecir nuestros comportamientos con un alto grado
de precisión. Por ejemplo, un estudio realizado en una red social que contó con casi 90.000
usuarios reveló que el algoritmo de la empresa era capaz de pronosticar las respuestas de
las personas sin ningún error. Esto se logró analizando los "me gusta" que los usuarios
dieron a varias páginas web, imágenes y videos a los que estuvieron expuestos.
Sorprendentemente, el algoritmo de la red social superó incluso a los compañeros de
trabajo en términos de predicciones de respuesta, requiriendo sólo 10 "me gusta" para
superar su precisión.
Se necesitaron 70 me gusta para superar las predicciones de los amigos, 150 para
superar a los familiares y 300 para superar a los cónyuges. Otro ejemplo es Netflix, que
almacena grandes cantidades de información sobre millones de usuarios. Esto incluye
sus géneros cinematográficos preferidos, las series que ven, la hora del día que eligen ver,
sus hábitos de visualización (como adelantar o rebobinar), el tiempo que les lleva
terminar un programa y los dispositivos que utilizan para visita. Todos estos datos son
recopilados, almacenados y utilizados por la plataforma. Hoy en día, el acceso a big data
es muy valorado como fuente de información fiable. De hecho, la economía se basa en la
recopilación de datos sobre los deseos de las personas para poder tomar decisiones
informadas basadas en esta información.
Es posible que otras personas que accedan al mismo periódico en línea no
encuentren las ofertas promocionales de mi supermercado local en la parte inferior de su
pantalla, especialmente si residen lejos. En cambio, estarán expuestos a diferentes
Pág. 46
anuncios que se adaptan a sus preferencias en función de sus búsquedas en Google o la
información que han compartido en sus plataformas de redes sociales. Por ejemplo, si
han recopilado datos sobre Río de Janeiro leyendo noticias o realizando búsquedas en
línea, sin duda recibirán anuncios relacionados con agencias de turismo, vuelos, hoteles
y excursiones en esta ciudad brasileña. Este hecho es el resultado de un mecanismo
crucial empleado por algoritmos y sistemas de inteligencia artificial que analizan los
datos del usuario, conocido como personalización.
La personalización en los resultados de búsqueda es vital para que las empresas
garanticen su éxito financiero. Cuanto más detallado sea el perfil de un usuario, más
efectivo será el algoritmo y el sistema de inteligencia artificial y, en consecuencia, más
rentable será la venta del perfil de ese usuario a aquellos interesados en dirigirse a ese
tipo de cliente en particular. Un fabricante o minorista de dulces, por ejemplo, estaría
dispuesto a pagar un precio más alto por una lista de personas que han buscado el
término "chocolate" en Google. Esto es precisamente lo que la IA y el algoritmo se
esfuerzan por crear y vender. Sin embargo, la personalización generada por algoritmos y
sistemas de inteligencia artificial puede generar riesgos y problemas sociales importantes,
como la formación de burbujas digitales.
Una burbuja digital se refiere al ámbito de mensajes y contenidos personalizados
que los usuarios reciben mientras navegan por Internet, que atiende exclusivamente a sus
intereses específicos. En consecuencia, los individuos sólo encuentran contenido que se
alinea con sus propias perspectivas, preferencias y creencias, mientras que el contenido
que contradice sus puntos de vista se filtra. Este fenómeno aísla efectivamente a los
usuarios dentro de sus propias burbujas, donde solo interactúan con personas de ideas
afines que comparten gustos e intereses similares. Con el tiempo, esto puede resultar en
un sesgo de confirmación, que es la tendencia de las personas a buscar y seleccionar
Pág. 47
información en Internet que confirme sus creencias existentes, reforzando así sus propias
nociones preconcebidas.
Las burbujas digitales crean barreras que impiden el libre flujo de ideas y
obstaculizan el intercambio de conocimientos entre personas que tienen perspectivas
diferentes. Estas burbujas segregan efectivamente a las personas con puntos de vista
contrastantes, y solo permiten que aquellos que comparten las mismas ideas e
inquietudes interactúen dentro de ellas. En consecuencia, los usuarios dentro de estas
burbujas tienden a ignorar el contenido que no se alinea con sus propias creencias, lo que
lleva a una reducción de su comprensión y capacidad de toma de decisiones.
Dentro de estas burbujas aisladas, los individuos sólo están expuestos a una gama
limitada de noticias e información que atiende a sus intereses específicos, empobreciendo
así su conocimiento de cuestiones sociales más amplias. En una democracia participativa,
es crucial que los ciudadanos se mantengan informados sobre los problemas sociales,
incluso si inicialmente no han expresado interés en ellos. Cuestiones como la
desnutrición, la pobreza, el analfabetismo, la inmigración y la situación de los
discapacitados afectan a toda la sociedad y requieren la atención de todos los individuos.
Los algoritmos no deberían tener la autoridad para excluir temas tan importantes
simplemente porque un individuo no mostró interés en ellos. En un mundo complejo,
todos los aspectos de la vida están interconectados y tienen un impacto en nuestras vidas,
incluso aquellas cuestiones que pueden no ser inmediatamente relevantes para nuestras
preocupaciones personales. Por lo tanto, es esencial para la democracia fomentar
individuos que sean capaces de pensar más allá de sus propios intereses.
Desafortunadamente, la forma en que funcionan las fuentes de información en las
redes sociales, como Facebook o Twitter, perpetúa este problema. Las noticias e
Pág. 48
información que las personas encuentran en sus perfiles se adaptan a sus intereses, en
función de sus actividades en línea o de las preferencias de sus amigos y contactos. Como
resultado, los individuos perciben y construyen una realidad sesgada que está
influenciada únicamente por las preocupaciones de sus conexiones en las redes sociales
o por lo que los algoritmos han determinado que puede interesarles en función de sus
búsquedas anteriores. Estos algoritmos, diseñados para mantener a los individuos dentro
de sus propias burbujas digitales, representan una grave amenaza para la sociedad, ya
que socavan los principios de pluralismo, diversidad y coexistencia de diferentes puntos
de vista que son fundamentales para una democracia saludable.
Según la UNESCO, la falta de transparencia en las herramientas de IA conduce a
una falta de comprensión de las decisiones que toma por parte de los individuos. Es
importante señalar que la inteligencia artificial no es imparcial y puede producir
resultados discriminatorios o sesgados. Esto resalta la necesidad de transparencia y
comprensibilidad en cómo operan los algoritmos y los datos con los que se entrenan. Si
bien las preocupaciones éticas no deberían impedir el progreso y la innovación, deberían
fomentar oportunidades para una investigación e innovación realizadas de forma ética
que alineen las tecnologías de IA con los derechos humanos, las libertades
fundamentales, los valores, los principios y las consideraciones morales y éticas.
Es crucial que el desarrollo y la utilización de estas tecnologías estén guiados por
una investigación científica sólida y un análisis y evaluación éticos. En la actualidad,
nadie puede ignorar la inteligencia artificial. Nadie puede alegar indiferencia o desinterés
porque no lo utiliza personalmente. La IA ya se ha convertido en una parte integral de
nuestras vidas y desempeña un papel importante en la toma de numerosas decisiones.
Pág. 49
Capitulo 3
¿Qué hace la inteligencia artificial?
Los sistemas de lenguaje de inteligencia artificial han provocado una controversia
global y provocado un intenso debate. Un área de particular interés es la capacidad
innovadora de la IA para generar historias, que inicialmente parece muy atractiva. De
hecho, este fenómeno ya está ocurriendo en todo el mundo. Un hombre llamado Tim
Boucher, de Estados Unidos, por ejemplo, ha afirmado sorprendentemente haber escrito
casi 100 libros utilizando inteligencia artificial. Estos libros tienen un precio de entre 2 y
5 dólares y le llevó entre 6 y 8 horas, y algunos incluso se produjeron en tan solo 3 horas.
Hasta 2023, Boucher afirma haber escrito la asombrosa cifra de 97 libros con la ayuda de
la IA. Sin embargo, especialistas de todo el mundo han comenzado a plantear dudas y
plantear preguntas que invitan a la reflexión. Yuval Harari plantea la cuestión de si
podemos imaginar un mundo en el que la IA cree textos, canciones e incluso series de
televisión. Las implicaciones de tal realidad están más allá de nuestra comprensión. Las
consecuencias de que la inteligencia artificial domine y dé forma a la cultura son inciertas
y potencialmente profundas.
El músico británico Nick Cave expresó su indignación cuando un sistema de
lenguaje de inteligencia artificial, ChatGPT, creó una canción que le pareció deficiente.
Cave sostiene que las canciones nacen del sufrimiento humano y de las intrincadas luchas
internas que conlleva la creación artística. "Hasta donde yo sé", concluye Cave, "los
algoritmos no sienten ni sufren". Los periodistas también señalan que la IA, que no se ve
afectada por las enfermedades, no está interesada en los aumentos salariales y no se
preocupa por las vacaciones, puede producir artículos que a los humanos les llevaría
horas escribir en apenas unos segundos.
Pág. 50
Estos artículos son precisos pero carecen de la calidez y la picardía que aporta la
creatividad humana. En 2023, los guionistas de Hollywood iniciaron la primera huelga
en respuesta a la amenaza percibida de que la IA podría reemplazar su trabajo. El
sindicato, que representa a 11.500 guionistas de la industria audiovisual norteamericana,
afirma firmemente que el arte no puede ser creado por una máquina. El cineasta y
guionista Eric Heisserer afirma que el corazón y el alma de la narración se perderían si la
IA tomara el control. Heisserer protesta además contra el uso de guiones escritos por
miembros del sindicato para entrenar sistemas de inteligencia artificial. Entre los
guionistas entrevistados, sólo unos pocos pueden imaginar la idea de que la IA realice su
trabajo de manera efectiva. Sin embargo, el mero hecho de que los estudios y las
plataformas estén dispuestos a explorar esta posibilidad les resulta angustioso. Temen
que los ejecutivos comprometan la creatividad en aras de la rentabilidad.
A pesar de que la IA es capaz de realizar el 99% de un trabajo de manera
competente, eso no implica que pueda ejecutarlo sin problemas. Hay ciertos casos en los
que ese 1% restante puede marcar una diferencia significativa, como distinguir entre
simplemente atender a un cliente vendiéndole empanadas (una tarea que un robot puede
realizar fácilmente) y brindar compañía a alguien que puede sentirse solo.
Es importante reconocer que la IA tiene sus limitaciones. Los sistemas lingüísticos
para la inteligencia artificial actúan como agentes conversacionales, dialogando,
intercambiando ideas, generando textos, ofreciendo consejos, sugiriendo opciones,
tomando decisiones e influyendo en nuestro comportamiento. Sin embargo, ¿pueden
estas capacidades tener un impacto en la democracia? Esta es una pregunta que los
expertos en la materia han intentado responder. Sostienen que podría representar una
amenaza para las democracias, ya que la democracia se basa fundamentalmente en la
conversación pública. Esencialmente, la democracia prospera cuando las personas
Pág. 51
conversan entre sí. Si la IA dominara estas conversaciones, la democracia tal como la
conocemos esencialmente dejaría de existir.
¿Qué se le pide a la industria que crea, diseña y promueve la inteligencia artificial?
La organización AI Now y la UNESCO han presentado algunas recomendaciones en sus
informes:
• En primer lugar, es necesario que los sistemas de IA sean transparentes para
abordar los sesgos. Esto incluye revelar dónde y cómo se utilizan los sistemas de
IA y con qué propósito.
• En segundo lugar, las empresas deberían realizar pruebas exhaustivas antes de
lanzar sistemas de IA para asegurarse de que no amplifiquen los errores o sesgos
causados por datos defectuosos.
• En tercer lugar, después del lanzamiento, las empresas deben monitorear el uso
de los sistemas de IA en diferentes contextos y comunidades, y los hallazgos deben
ser académicamente rigurosos y estar disponibles públicamente.
• En cuarto lugar, la investigación sobre la discriminación y la equidad de la IA no
debería centrarse sólo en el análisis técnico sino también considerar las
implicaciones sociales del uso de la IA.
• En quinto lugar, las empresas que desarrollan IA deberían contratar expertos de
diversas disciplinas, incluidos científicos sociales, para brindar una perspectiva
más amplia sobre el impacto de la IA.
• Por último, los códigos éticos son necesarios para guiar y supervisar el desarrollo
de la IA, garantizando las mejores prácticas y resultados.
Pág. 52
Está claro que la inteligencia artificial desempeña un papel importante en la toma
de decisiones, lo que genera preocupaciones tanto positivas como éticas. El rápido ritmo
del avance de la IA hace que sea difícil comprender plenamente su significado e
implicaciones. La educación es crucial para abordar este problema, ya que puede
ayudarnos a comprender y exigir una mayor transparencia en la IA. Específicamente, la
educación puede explorar cómo la IA afecta a las escuelas, los desafíos que plantea a la
enseñanza y si se necesita un nuevo enfoque de la educación en esta era tecnológica. En
última instancia, el objetivo es crear un sistema de IA más justo y equitativo, y la
educación brinda la mejor oportunidad para la reflexión y el análisis.
3.1 La educación
La IA ha creado un nuevo problema para quienes necesitan contratar futuros
empleados. Los departamentos de recursos humanos ya saben que los candidatos confían
en la inteligencia artificial para escribir la carta tradicional. Está claro que a la hora de
contratar a un candidato, los directivos ya no pueden guiarse por la redacción del texto.
Los métodos de evaluación tradicionales ya no son tan fiables para revisar las solicitudes.
A medida que más y más solicitantes utilizan la IA para escribir cartas de presentación,
¿qué valor puede tener para las empresas seguir exigiendo este requisito? Si alguien
puede mejorar artificialmente el correo electrónico que envía a un gerente de
contratación, el correo electrónico deja de tener sentido. Esta es exactamente la
innovación a la que Google dio vida desde Gmail. Esta aplicación incluye la herramienta
Help Me Write para generar correos electrónicos únicamente a partir de la descripción del
usuario. No es la IA lo que las empresas han tenido que cambiar, sino los métodos
utilizados para evaluar a los candidatos.
Pág. 53
Entonces, ¿qué hicieron los responsables de contratación? Comenzaron a pensar
en qué cambios deberían hacer en la forma en que evalúan las solicitudes. Los procesos
de contratación tuvieron que cambiar. El objetivo era encontrar nuevas formas de
evaluación que exigieran a los candidatos hacer lo que la inteligencia artificial no podía
hacer. Lo cual era específico y específico de las personas. Llegaron a una conclusión. La
IA es capaz de almacenar, organizar, procesar, ordenar y escribir datos, pero carece de
pensamiento crítico, carece de curiosidad e imaginación y no es una fuente de creatividad
libre. La inteligencia artificial sólo funciona con el contenido con el que han sido
alimentados y capacitados quienes la diseñan.
Por lo tanto, los reclutadores decidieron crear evaluaciones que requirieran
reflexión, razonamiento, imaginación y creatividad por parte del candidato y reflejaran
su curiosidad e inquietudes. Los empleadores reservan la escritura para analizar el capital
cultural y las competencias basadas en el pensamiento crítico y creativo de los futuros
empleados. Una ingeniera dijo lo siguiente sobre el tipo de preguntas que la empresa a la
que postulaba como empleada le hizo durante el proceso de contratación: “-En mi
primera entrevista como candidata, me sorprendieron con una pregunta que no esperaba.
Me preguntaron cuántas pelotas de tenis caben en un autobús urbano. También querían
saber cómo consiguió ese número. Rápidamente me di cuenta de que no les importaba el
número final de bolas, que por otro lado quizás puedas encontrar en Internet. Lo que la
empresa realmente quería saber era mi capacidad de razonar para llegar al número final
(incluso si el número no era correcto)”.
En un intento por fomentar el pensamiento crítico y las habilidades de escritura,
una educadora asignó a sus alumnos la tarea de crear una síntesis basada en un texto
periodístico que ella les había proporcionado. Sin embargo, cuando empezó a calificar los
trabajos, notó una tendencia desalentadora: muchos estudiantes habían presentado
Pág. 54
resúmenes idénticos. Pronto se hizo evidente que estos resúmenes uniformes eran el
resultado de la utilización de nuevos sistemas de inteligencia artificial.
Esta comprensión dejó a la maestra sintiéndose desanimada, ya que su intención
era evaluar las habilidades de escritura de sus alumnos, pero el ejercicio aparentemente
se había vuelto inútil. A la luz de la situación la maestra, resulta evidente que la
transformación provocada por la inteligencia artificial no debe limitarse únicamente al
proceso de contratación; también debería impulsar un debate más amplio sobre el
impacto que puede tener en la educación.
A medida que la sociedad continúa adoptando la IA, los educadores, los
formuladores de políticas y las partes interesadas deben colaborar para establecer pautas
y mejores prácticas que garanticen la integración efectiva y ética de los sistemas de IA en
las aulas. Sólo entonces podremos realmente aprovechar el poder de la inteligencia
artificial para mejorar la educación preservando al mismo tiempo sus principios
fundamentales.
La llegada de la inteligencia artificial ha revolucionado el proceso de contratación,
pero su impacto en la educación aún está en debate. Marta, una dedicada profesora de
idiomas en una escuela de secundaria, se pregunta si el sistema educativo también
debería sufrir una transformación. Este dilema llega a un punto crítico durante una
reunión de profesores, donde Marta comparte su frustrante experiencia con sus alumnos
ese día. A medida que la tecnología continúa avanzando, los educadores deben enfrentar
el desafío de encontrar un equilibrio entre aprovechar la IA para obtener sus beneficios y
al mismo tiempo preservar los aspectos fundamentales de la educación.
Este equilibrio es crucial para garantizar que los estudiantes no se limiten a
regurgitar información generada por los sistemas de inteligencia artificial, sino que
Pág. 55
participen activamente en el proceso de aprendizaje. Además, nos insta a reflexionar
sobre el propósito de la educación misma: ¿se trata únicamente de adquirir conocimientos
o también debería cultivar el pensamiento crítico, la creatividad y las habilidades para
resolver problemas? Si bien algunos pueden argumentar que los sistemas de inteligencia
artificial pueden agilizar los procesos educativos, como calificar trabajos, la experiencia
la maestra sirve como advertencia. Subraya la importancia de una evaluación auténtica y
el valor de la evaluación humana para fomentar el crecimiento y el desarrollo de los
estudiantes. Después de todo, la educación no consiste sólo en producir resultados
uniformes, sino también en fomentar los talentos y habilidades individuales. Este
incidente plantea preguntas importantes sobre el papel de la inteligencia artificial en la
educación. Si bien sin duda ha aportado numerosos avances a diversos sectores, su
integración en las aulas debe considerarse cuidadosamente. Esta experiencia destaca los
posibles inconvenientes de depender demasiado de los sistemas de inteligencia artificial
en la educación y la necesidad de que los educadores mantengan la integridad de sus
métodos de enseñanza.
Un dedicado y conocedor profesor de Historia, se encontró en una situación que
invitaba a la reflexión durante una reunión. A medida que se desarrolló la discusión,
compartió valientemente una experiencia que lo había dejado a la vez desconcertado e
intrigado. En su genuina búsqueda de fomentar habilidades de pensamiento crítico entre
sus estudiantes, el profesor les había asignado la tarea de profundizar en los intrincados
detalles de la Segunda Guerra Mundial. Sin embargo, lo que recibió a cambio fue una
multitud de encargos que, aunque impecablemente precisos y descriptivos, carecían de
la profundidad de conocimiento y originalidad que esperaba. Perplejo por la
sorprendente similitud de estas tareas, el profesor no pudo evitar preguntarse si sus
estudiantes habían recurrido a la utilización de sistemas de lenguaje de inteligencia
Pág. 56
artificial de vanguardia que se han vuelto cada vez más frecuentes en el panorama
tecnológico actual. A pesar de sus mejores esfuerzos por elaborar una tarea significativa
y estimulante, el profesor no pudo quitarse de encima la sensación de que sus
instrucciones de alguna manera habían perdido el propósito previsto en la traducción,
dejándolo con una sensación de desilusión.
La maestra y el profesor comparten la misma opinión y es evidente que los dos
ejercicios que propusieron no cumplieron con los objetivos previstos. La razón detrás de
esto es que los sistemas de lenguaje de IA destacan en la realización de este tipo de tareas
sin problemas. Estos sistemas han demostrado ser herramientas increíblemente útiles
para resumir información, componer artículos escritos y responder diversas actividades
basadas en texto. Curiosamente, fueron los estudiantes quienes descubrieron las
capacidades de la IA antes que sus propios profesores y rápidamente recurrieron a esta
tecnología para superar los desafíos de sus tareas. El impacto de los sistemas de
inteligencia artificial basados en el lenguaje no se limita a una región específica, ya que
han logrado avances significativos en todo el mundo al aprobar con éxito exámenes
finales de grado, ser admitidos en universidades prestigiosas e incluso realizar complejas
tesis doctorales con gran éxito.
Las experiencias anteriores revela profundos fallos y deficiencias del sistema
educativo en lugar de atribuirlos únicamente a las limitaciones de la inteligencia artificial.
Se puede establecer un paralelo con los métodos de contratación en el mundo
empresarial, donde el obstáculo no era la IA en sí, sino los estrictos criterios impuestos
por las empresas, que requerían una renovación para asegurar el empleo. De manera
similar, el problema no radica en los sistemas de inteligencia artificial en la educación,
sino en las instrucciones y orientación que se brindan a los estudiantes. Para abordar esto,
existe una necesidad apremiante de que las políticas públicas, las escuelas y los docentes
Pág. 57
exploren enfoques innovadores respecto de las tareas escolares, los exámenes y las
metodologías de enseñanza en general. Esto reflejaría la evolución observada en el
proceso de contratación, donde se volvió imperativa una reevaluación de las prácticas
tradicionales.
Si seguimos priorizando la memorización, la copia y la imitación en educación, no
debería sorprender que la inteligencia artificial destaque en tareas como aprobar
exámenes de acceso a la universidad o seguir impecablemente instrucciones escolares.
Esto pone de relieve la urgente necesidad de que la educación reevalúe sus objetivos,
prioridades, métodos de enseñanza y técnicas de evaluación. Un profesor estadounidense
innovador intentó un enfoque diferente incorporando sistemas de inteligencia artificial
basados en el lenguaje en su clase de Historia. Asignó a sus alumnos que utilizaran
tecnología de inteligencia artificial para escribir un informe sobre la historia de la
impresión. Sin embargo, los estudiantes pronto descubrieron que el sistema inteligente
carecía de información sobre los orígenes de la imprenta en Europa o China. El profesor
aprovechó este inconveniente de la IA para iniciar un debate sobre las limitaciones de
depender únicamente de la inteligencia artificial para obtener datos precisos y completos.
Enfatizó la importancia de no aceptar ciegamente los resultados o respuestas que brinda
una aplicación, ya que pueden ser incompletos o incluso falsos. Además, esta clase brindó
la oportunidad de explorar cómo los prejuicios y omisiones dentro de los sistemas de IA
pueden reforzar prejuicios y estereotipos.
A la luz de estos avances, los métodos tradicionales para evaluar las habilidades
de escritura de los estudiantes, como resumir instrucciones o comentar libros o textos
periodísticos, ya no serán efectivos. Será cada vez más difícil discernir si un texto fue
escrito por un estudiante o por un sistema de inteligencia artificial. Por lo tanto, como lo
Pág. 58
demuestra la historia de las clases de imprenta, los educadores deben idear estrategias
de evaluación alternativas que puedan contrarrestar este dilema.
Para mejorar la comprensión de los estudiantes sobre la inteligencia artificial (IA),
se han propuesto varios proyectos escolares que implican la evaluación de los sistemas
de IA por parte de los propios estudiantes. Estos proyectos tienen como objetivo analizar
cómo funciona la IA, identificar posibles sesgos u omisiones en sus respuestas y explorar
el diseño de los algoritmos utilizados.
En un proyecto en particular, un maestro indicó a sus alumnos que utilizaran
ChatGPT, un sistema de inteligencia artificial basado en lenguaje, para recopilar
argumentos que respaldaran el establecimiento de una fábrica en una zona residencial.
Posteriormente, a los estudiantes se les asignó la tarea de evaluar la efectividad de los
argumentos proporcionados por el sistema de inteligencia artificial y determinar si estos
argumentos podían influir de manera convincente en los residentes del vecindario. Para
concluir la tarea, los estudiantes debían presentar un ensayo que incluyera sus críticas al
sistema de IA, así como sus opiniones sobre los argumentos propuestos.
Al alentar a los estudiantes a evaluar las respuestas y los resultados de los sistemas
de IA, la actividad de este maestro no solo permitió un análisis del diseño y la función
del sistema, sino que también enfatizó la importancia de comprender sus limitaciones. Es
fundamental señalar que estos proyectos no pretenden librar una guerra contra la IA ni
restringir el uso de nuevos sistemas lingüísticos. Más bien, resaltan la necesidad de
asumir la responsabilidad de nuestras propias deficiencias en lugar de intentar frenar los
avances tecnológicos, ya que es similar a tratar de bloquear el sol con nuestras propias
manos.
Pág. 59
El desafío no radica en prohibir la IA, sino en superar sus capacidades. Debemos
analizar y evaluar exhaustivamente la IA, centrándonos también en lo que no puede
hacer. Las tareas tradicionales, como solicitar resúmenes o simples comentarios de los
estudiantes, quedarán obsoletas, ya que la IA puede completar estas tareas de manera
fácil y precisa. Sin embargo, esto no significa que en la educación se deban descartar
contenidos específicos, ya que es importante tener una cierta cantidad de conocimientos.
Si bien, conocer únicamente la fecha de la Segunda Guerra Mundial o los países
involucrados no debería ser el único objetivo de las tareas escolares. Si bien la información
es crucial para comprender los acontecimientos históricos y el presente, no debería ser el
destino final.
La educación debe ir más allá de la mera información y fomentar el pensamiento
crítico sobre las implicaciones, consecuencias y cambios resultantes de estos
acontecimientos. Si bien la IA puede responder preguntas sobre cuándo, dónde y quién,
la educación profundiza en el por qué, lo que significa y los efectos resultantes. En
consecuencia, es necesario reconsiderar cómo evaluamos a los estudiantes. La necesidad
de transformar los formatos de exámenes actuales no se debe únicamente a la aparición
de la IA; simplemente resalta la fecha de vencimiento de los exámenes tradicionales.
Los profesores, como Rebeca Wang, especialista en IA en Estados Unidos, han
tenido que adaptar sus métodos de calificación para adaptarse al uso de plataformas y
aplicaciones de IA por parte de los estudiantes. Esta adaptación ha requerido a menudo
ajustes rápidos en medio de cursos en curso. No se trata de que los robots se hagan cargo
de nuestros trabajos, sino de que nos hemos acostumbrado a realizar tareas que pueden
realizar los robots durante los últimos 5.000 años. Lo mismo se aplica a la educación,
donde debemos evitar que los estudiantes realicen trabajos robóticos. Debemos fomentar
Pág. 60
el pensamiento crítico, la imaginación, la curiosidad y la creatividad, todo lo cual es
distinto de la inteligencia artificial.
Como se mencionó anteriormente, si la educación continua priorizando la
memoria y las preguntas específicas, la inteligencia artificial seguirá destacando en la
resolución de exámenes y tareas. Esta es la realidad actual, donde los estudiantes
simplemente copian la primera respuesta que encuentran en un motor de búsqueda. Sin
embargo, la educación debe ir más allá de los enfoques tradicionales y enfatizar el
pensamiento crítico y la creatividad, tanto en el ámbito académico como en el mundo
profesional.
Una investigación realizada en 18 países de diferentes continentes ha revelado
estadísticas alarmantes. En casi 20 países participantes, sólo un mero 2 por ciento de los
estudiantes de secundaria posee la capacidad de diferenciar la relevancia de la
información que se encuentra en Internet. Incluso Corea del Sur, que tiene el mayor
porcentaje de adolescentes con esta capacidad reflexiva, sólo alcanza el 5 por ciento. Esta
competencia es fundamental para una sociedad basada en el conocimiento, pero falta
gravemente entre los estudiantes.
Una encuesta realizada en España entre estudiantes de secundaria encontró que
más de la mitad de los adolescentes admitieron no saber cómo buscar información de
manera eficiente en Google. También tuvieron dificultades para identificar información
confiable en la web. De manera similar, una investigación realizada por la Universidad
de Stanford entre 7.800 estudiantes de secundaria en los Estados Unidos reveló que un
asombroso 82 por ciento de los adolescentes no pueden distinguir entre contenido
informativo y contenido patrocinado. No perciben ninguna diferencia entre una noticia
periodística y un artículo patrocinado por una empresa escrito por el presidente del
banco. La investigación concluye que los estudiantes de secundaria estadounidenses
Pág. 61
carecen de las habilidades para diferenciar fuentes en Internet, lo que les dificulta
discernir entre anuncios, artículos patrocinados y noticias mientras navegan por la web.
En Argentina, un estudio en el que participaron 2.000 adolescentes de todo el país
concluyó que sólo 2 de cada 10 estudiantes comparan diferentes páginas web para
determinar su confiabilidad. Sólo el 3 por ciento elige un sitio web porque pertenece a
una institución reconocida. Es decir, apenas un 5 por ciento analiza el origen de la
información, ya sea comparándola con otras páginas web o verificando la existencia de
su autor. Para más del 90 por ciento de los estudiantes, los criterios de credibilidad son
extremadamente deficientes. Confían en las fuentes basándose en factores como
familiaridad, utilidad, contenido bien redactado, estadísticas o simplemente porque
aparece primero en Google. Sorprendentemente, 2 de cada 10 adolescentes incluso
admiten que no están seguros de poder confiar en una fuente, pero aun así la utilizan.
Así, el 20 por ciento de los estudiantes utiliza sitios web y su contenido sin siquiera
considerar la autoridad o confiabilidad de la información proporcionada.
Los argumentos son igualmente limitados cuando tienen que explicar por qué no
confiarían en determinada información. En sus propias palabras dicen: “porque el texto
tiene muchas faltas de ortografía”, “porque detecto un error grave en lo que dice”,
“porque no argumenta bien” o “porque hay muchas opiniones”. Finalmente, cuando se
les pregunta qué información se debe incluir para que lo crean, responden con
definiciones también limitadas y difíciles de justificar. Explican que “debe estar bien
redactado”, “que tenga buenos argumentos”, “que contenga mucha información” o “que
cuando lo escribas la pregunta responda exactamente a lo que buscas”.
Los adolescentes de todo el mundo se enfrentan a importantes desafíos a la hora
de diferenciar información relevante y fiable en Internet. Solo un pequeño número de
ellos posee la capacidad de establecer criterios para determinar la confiabilidad, mientras
Pág. 62
que la mayoría lucha por articular razones válidas para considerar creíble cierta
información. Hay argumentos que sugieren que los jóvenes siempre han tenido
limitaciones a la hora de buscar información. Estas limitaciones incluyen dificultades
para formular preguntas, comparar datos, evaluar la fuente de información, establecer
criterios de credibilidad y formar opiniones bien razonadas.
Es importante reconocer que no se puede culpar únicamente a la tecnología por la
falta de habilidades de pensamiento crítico entre sus usuarios. Estas limitaciones existían
mucho antes de que existiera Internet. Sin embargo, a pesar de que la tecnología no es la
causa directa de este problema, ha expuesto y exacerbado la mala actitud crítica entre los
adolescentes e incluso los adultos. Ahora surge la pregunta de por qué esta preocupación
se ha convertido en un problema global. ¿En qué se diferencian estas limitaciones actuales
de las que existían en el siglo XX? La respuesta a esta pregunta es multifacética. Si bien
Internet no es el único responsable de este problema, sin duda lo ha intensificado.
Profundicemos en las razones. Internet ha hecho que el acceso a una cantidad
infinita de información sea increíblemente fácil. Si bien esta accesibilidad es
indudablemente beneficiosa, los estudios internacionales revelan que esta abundancia de
conocimiento en realidad puede complicar la búsqueda de respuestas. La exposición
constante a la información también puede obstaculizar los procesos de toma de
decisiones. La abundancia de información y su fácil accesibilidad, combinada con la
velocidad a la que circula, supone un riesgo de “infoxicación”, una cantidad abrumadora
de información y ruido que puede provocar confusión personal y colectiva. La saturación
de información no es un fenómeno nuevo. En el siglo I, Séneca expresó su preocupación
por la distracción provocada por el exceso de libros. Estas preocupaciones se amplificaron
aún más con la llegada de la imprenta durante el Renacimiento. Poco después de que
aumentara su popularidad, surgieron preocupaciones sobre los editores que se
Pág. 63
apresuraban a imprimir títulos sin considerar su calidad. Sin embargo, nunca antes
habíamos experimentado la rápida circulación de información como la que vivimos hoy.
Nos bombardean constantemente con datos, pseudodatos, rumores y chismes que se
hacen pasar por información válida.
En consecuencia, aunque la tendencia a abordar los textos con una mentalidad
crítica limitada no es un fenómeno reciente y ha estado presente antes de la llegada de
Internet, la inundación de adolescentes y adultos con un sinfín de información exacerba
el estado de confusión. y presenta desafíos importantes para discernir el significado de
un texto, determinar el contenido adecuado, determinar la identidad del autor, descifrar
sus intereses e intenciones, discernir y comparar varios puntos de vista y formular la
propia perspectiva basada en información creíble y confiable. Este tema, sin duda, sigue
intensificándose en la sociedad actual.
Con el avance de la tecnología e Internet, los desafíos que rodean la difusión de
información se han vuelto más pronunciados. En el pasado, abordar un tema implicaba
consultar un número limitado de fuentes autorizadas. Si bien, en el siglo XXI nos
enfrentamos a una cantidad abrumadora de información disponible en la web, con
distintos niveles de confiabilidad y credibilidad. Esto se complica aún más por la
influencia de la inteligencia artificial (IA), que tiene la capacidad de procesar y almacenar
grandes cantidades de datos.
Si bien los sistemas de lenguaje de IA pueden proporcionar respuestas, también
son susceptibles de recibir información falsa, lo que lleva a resultados potencialmente
incorrectos. Los creadores de estos sistemas incluso han expresado su preocupación por
el uso de la IA para difundir desinformación. Por lo tanto, no es prudente confiar
únicamente en los sistemas de inteligencia artificial para obtener información precisa. La
abundancia de información también plantea un desafío en la toma de decisiones. A
Pág. 64
menudo creemos que más datos conducirán a mejores decisiones, pero llega un punto en
el que una sobrecarga de información en realidad obstaculiza nuestra capacidad de tomar
decisiones acertadas. Esto se debe a que muchas veces confundimos la información
disponible con la información relevante. Irónicamente, la IA, que se suponía simplificaría
la toma de decisiones, parece complicarla.
El pensamiento crítico y la creatividad son habilidades exclusivamente humanas
a las que se debe dar prioridad, mientras que los sistemas de inteligencia artificial pueden
ayudar a recopilar y organizar información. Sin embargo, para utilizar la IA de forma
eficaz, debemos aprender a formular las preguntas correctas y comunicarnos eficazmente
con estos sistemas. Desafortunadamente, la educación tradicional tiende a priorizar la
memorización y la regurgitación de respuestas, en lugar de fomentar las habilidades de
cuestionamiento y pensamiento crítico.
La capacidad de hacer preguntas no sólo es crucial para el pensamiento crítico,
sino que también es un requisito fundamental para navegar en Internet. Es importante
que las escuelas enseñen a los estudiantes cómo hacer preguntas más avanzadas que
vayan más allá del típico quién, qué, dónde y cuándo. Estas preguntas de nivel superior
son las que comienzan con el por qué, qué implicaciones tienen, qué cambios traen y qué
consecuencias generan. Este tipo de preguntas demandan de los estudiantes diversas
habilidades, como la reflexión, la curiosidad, la investigación, el análisis, la inferencia, la
anticipación, la argumentación, la comunicación, la colaboración, la evaluación, la
imaginación, la creatividad y la participación. Requieren que los estudiantes utilicen
múltiples fuentes para encontrar respuestas, analizar diferentes argumentos y
perspectivas, buscar puntos de vista opuestos, cuestionar sus propias ideas y continuar
haciendo nuevas preguntas.
Pág. 65
Las preguntas también fomentan el trabajo en equipo, la colaboración y las
habilidades de comunicación. Prepararse para el mundo digital va más allá de saber
utilizar una computadora; implica saber cómo hacer las preguntas correctas. El poder de
una simple pregunta puede impulsar el progreso y cambiar el curso de la historia, tal
como la atrevida pregunta de Albert Einstein sobre viajar en un rayo de luz. Hacer
preguntas es la habilidad fundamental necesaria para navegar por Internet de forma
eficaz, ya que permite a las personas desempeñar un papel activo en la búsqueda de
conocimientos, en lugar de simplemente memorizar información. Enseñar la habilidad
de hacer preguntas es crucial para que tanto los profesores como los estudiantes piensen
de forma crítica y utilicen la inteligencia artificial de forma eficaz.
3.2 Inteligencia artificial en la era digital
En el mundo actual, saber qué preguntarle a la IA es fundamental para obtener los
resultados deseados. Sin embargo, también es importante comprender cómo funciona la
IA y su impacto, tanto ético como no ético. Promover la alfabetización digital y estudiar
la IA como tema permite a las personas analizar cómo se construyen los algoritmos y
evaluar su influencia en la vida diaria. Este conocimiento permite a las personas exigir
transparencia y un diseño ético en los sistemas de IA.
Comprender la presencia de sesgos en la tecnología no es simplemente un lujo,
sino un requisito esencial. Es imperativo que profundicemos en las cuestiones que rodean
la inteligencia artificial y sus implicaciones. En el ámbito de la educación, estas
indagaciones se han convertido en temas de análisis, investigación y debate dentro del
aula. Algunas de las preguntas fundamentales que buscamos abordar incluyen: ¿Qué
conocimiento posee un sistema de inteligencia artificial sobre nosotros como individuos?
¿Cómo utiliza esta información y a quién la divulga?
Pág. 66
Asimismo, debemos considerar el alcance de la información que las empresas
tecnológicas poseen sobre nosotros y las decisiones que toman en base a estos datos.
¿Quién otorga autorización a estas empresas tecnológicas para emplear la información
personal que compartimos en Internet? Además, debemos explorar la influencia de las
empresas tecnológicas en nuestros procesos de toma de decisiones. ¿Cómo dan forma a
nuestras elecciones y dirigen nuestras acciones? Más allá de eso, deberíamos examinar
las intenciones y motivos que impulsan a las empresas de tecnología en el desarrollo de
sistemas de IA. ¿Cómo se construyen estos algoritmos? ¿Se adhieren a pautas éticas y
reglas predeterminadas? ¿Y qué pasa cuando se desvían de estos principios? Además,
debemos examinar cómo la IA discierne lo que es relevante para cada usuario y cómo
llega a las decisiones. Por último, debemos contemplar la posibilidad de mejorar la
transparencia en estos usos de la IA. En esencia, la exploración de estas preguntas nos
permite obtener una comprensión más completa del sesgo tecnológico y sus
implicaciones.
Vale la pena considerar si se puede diseñar un sistema de IA para servir a las
personas, centrándose en promover la justicia y la igualdad, en lugar de involucrarse en
prácticas que exploten y discriminen a las personas. En esencia, la UNESCO enfatiza la
importancia de dotar a las personas de conocimientos adecuados sobre la IA, ya que esto
puede empoderarlas y cerrar la brecha digital, reduciendo las desigualdades en el acceso
a la tecnología digital causadas por la implementación generalizada de sistemas de IA.
Para lograr esto, los Estados miembros deben promover activamente la adquisición de
habilidades fundamentales para la educación en IA, incluidas la alfabetización
fundamental, la aritmética, las habilidades digitales y de codificación, la alfabetización
mediática e informacional, las habilidades de pensamiento crítico y creativo, el trabajo
Pág. 67
colaborativo en equipo, la comunicación efectiva, la habilidades emocionales y una
comprensión integral de la ética de la IA.
Para dotar a las personas de habilidades esenciales para la era digital, es
imperativo que la educación incorpore una comprensión integral de la alfabetización
digital que vaya más allá del conocimiento superficial. Esto implica un examen crítico de
la inteligencia artificial, profundizando en sus implicaciones y efectos en nuestra vida
cotidiana. Una alfabetización de este tipo no sólo debería abordar estas cuestiones sino
también analizarlas en profundidad. Por lo tanto, es crucial desarrollar un marco
educativo que vaya más allá de la tendencia común a idealizar y fascinarse por la
inteligencia artificial. En cambio, este marco debería alentar a las personas a cuestionarlo
y desafiarlo, fomentando el desarrollo de habilidades de pensamiento crítico necesarias
para navegar las complejidades de este campo en rápida evolución.
Pág. 68
Capítulo 4
Inteligencia artificial y pensamiento crítico
Adoptar un enfoque pasivo, confiando las decisiones cotidianas a la inteligencia
artificial sin cuestionar ni ser consciente de cómo se toman, plantea riesgos importantes.
Así como un martillo sólo es eficaz cuando sabemos utilizarlo correctamente, el mismo
principio se aplica a todas las herramientas, incluidas las tecnológicas como la
inteligencia artificial. Para maximizar los beneficios de los medios digitales en la
educación, es crucial que comprendamos cómo funcionan estas herramientas y las
empleemos de manera crítica, en lugar de simplemente verlas como instrumentos. El
simple hecho de estudiar libros no mejora automáticamente nuestra inteligencia. De
hecho, incluso puede tener el efecto contrario si aceptamos ciegamente todo lo que
presentan o leemos únicamente materiales que se alinean con nuestras creencias
preexistentes.
En una sociedad dinámica y altamente tecnológica que prioriza la información, el
conocimiento y la comunicación, es fundamental poseer habilidades fundamentales
como análisis, interpretación, evaluación, inferencia, anticipación, resolución de
problemas, formación de juicios, toma de decisiones, creatividad, comunicación, trabajo
en equipo y participación activa. La aparición de la inteligencia artificial nos ha llevado a
reevaluar nuestra comprensión del mundo digital. Es crucial para nosotros evaluar
críticamente la tecnología para utilizar plenamente su potencial, reconocer sus
limitaciones y considerar las implicaciones éticas de sus operaciones. Esta comprensión
crítica nos permitirá tomar decisiones informadas sobre cuándo, cómo y por qué
debemos emplear la tecnología.
Pág. 69
Al desarrollar una actitud y una perspectiva perspicaces hacia la tecnología y ser
más reflexivos y selectivos en su uso, podemos contribuir activamente al desarrollo de
una sociedad más justa. Sin embargo, es evidente que la mayoría de los estudiantes y la
sociedad en su conjunto simplemente ven la tecnología, incluida la inteligencia artificial,
como herramientas sin cuestionar ni reflexionar sobre su impacto en las decisiones
cotidianas. Tanto los estudiantes como los adultos a menudo dependen de la IA para
abordar sus consultas o inquietudes, ya sea para navegar por lugares desconocidos, elegir
una película, resolver problemas a través de asistentes virtuales o usar el reconocimiento
facial para desbloquear sus teléfonos inteligentes. Para fomentar una comprensión más
profunda de la IA y sus diversas aplicaciones, la educación debe trascender esta
perspectiva naturalizada. Las escuelas y las políticas públicas deberían hacer hincapié en
enseñar a los estudiantes cómo funciona la IA, su influencia en los procesos de toma de
decisiones y su papel en la configuración de nuestra percepción del mundo y la
construcción de conocimiento y significado.
Las competencias fundamentales se denominan así porque son aplicables a todas
las áreas del conocimiento y son esenciales para navegar en una sociedad, un entorno
laboral, un sistema educativo y una economía en constante cambio. Permiten a las
personas adaptarse y prosperar en un mundo dinámico. La UNESCO enfatiza la
importancia de estas competencias en la construcción de conocimiento en cualquier
campo, particularmente a través del pensamiento crítico y creativo. El pensamiento
crítico implica cuestionar, desafiar y analizar argumentos, así como la resolución de
problemas y la toma de decisiones.
Las habilidades reflexivas y creativas son cruciales tanto para el ámbito de la vida
personal como para el virtual. Estas competencias permiten a las personas aprender de
los demás, reconocer el valor de las opiniones diversas, participar en debates
Pág. 70
constructivos y mejorar su propio empoderamiento cívico. Son vitales para la
participación democrática y la ciudadanía activa. Además, en el panorama digital, se
requieren habilidades específicas conocidas como competencias digitales para navegar y
utilizar la tecnología de manera efectiva. Estas competencias promueven el uso
responsable y creativo de Internet, abarcando el pensamiento crítico, la resolución de
problemas, la comunicación y la participación.
Al poseer habilidades digitales transversales, las personas pueden evaluar
críticamente el mundo virtual e interactuar con él de manera reflexiva y participativa.
Cuando se trata de inteligencia artificial, las habilidades digitales basadas en el
pensamiento crítico permiten a las personas comprender sus principios subyacentes, su
funcionamiento, su diseño y su impacto en la toma de decisiones. En general, las
competencias digitales basadas en el pensamiento crítico permiten a las personas
desarrollar una comprensión profunda de la IA y sus implicaciones.
La inteligencia artificial está lejos de ser neutral en sus operaciones. Depende en
gran medida de la información y los datos privados que recibe, lo que inevitablemente
da forma a sus acciones. Además, la IA tiende a operar mediante generalizaciones, lo que
a menudo puede generar sesgos a la hora de clasificar y etiquetar diversos conceptos o
individuos. Estos sesgos, a su vez, pueden perpetuar las desigualdades existentes dentro
de la sociedad.
Es fundamental reconocer que la IA, a pesar de sus avances, no es infalible. Es una
tecnología creada por humanos y, como tal, no es inmune a los defectos y limitaciones de
sus creadores. Por lo tanto, debemos abordar la IA con ojo crítico, reconociendo su
potencial para iluminarnos y engañarnos en nuestra comprensión del mundo. Además
de su papel de observador y analizador, la IA también busca ejercer influencia sobre
nuestros procesos de toma de decisiones.
Pág. 71
A través de sus algoritmos y recomendaciones, se esfuerza por dar forma a las
decisiones que tomamos. Sin embargo, debemos ser cautelosos ya que estas sugerencias
pueden verse influenciadas por los sesgos inherentes al propio sistema de IA. Una de las
limitaciones inherentes de la IA radica en su capacidad para convertir las complejidades
de nuestro complejo universo en un orden lineal y simplificado. Este enfoque
reduccionista puede pasar por alto o simplificar demasiado inadvertidamente matices y
complejidades cruciales que existen en nuestro mundo. En consecuencia, la visión de la
realidad que nos presenta la IA no es omnicomprensiva, sino más bien una perspectiva
particular y, en ocasiones, sesgada.
El tema de la enseñanza de la educación gira en torno a la comprensión del
intrincado funcionamiento de la inteligencia artificial y su profunda influencia en nuestra
vida diaria. Es crucial profundizar en los mecanismos que impulsan la IA,
comprendiendo cómo funciona y opera. Así, un aspecto esencial de esta educación
implica aprender a evaluar si los resultados generados por los sistemas de IA están
influenciados por sesgos o tendencias discriminatorias. Debemos desarrollar la habilidad
para determinar si la IA está abordando de manera responsable ciertos problemas o los
perpetúa inadvertidamente. Además, es imperativo comprender la importancia de exigir
transparencia y ética en el desarrollo de los algoritmos que impulsan la IA. Al inculcar
consideraciones éticas y garantizar la transparencia, podemos establecer una base sólida
para la construcción de sistemas de IA, fomentando un panorama tecnológico justo y
equitativo.
La capacidad de utilizar cuidadosamente las tecnologías y la inteligencia artificial,
así como analizar y navegar eficazmente en situaciones complejas en el ámbito digital,
son habilidades esenciales para que las personas comprendan e interactúen con la
realidad cada vez más dominada por las pantallas del siglo XXI. Estas habilidades
Pág. 72
capacitan a los ciudadanos para abordar y superar eficazmente los diversos problemas y
desafíos de nuestro tiempo, tomar decisiones independientes y participar activamente en
la sociedad. Sin una base sólida de habilidades y conocimientos digitales, la tecnología,
incluida la inteligencia artificial, servirá simplemente como herramientas para fines
prácticos, desprovistas de una comprensión más profunda o un compromiso crítico.
4.1 Desafíos
La creación que surge de la inteligencia artificial siempre está conectada a los
datos, textos e imágenes que se han utilizado para entrenar el sistema. Por otro lado,
profesores y alumnos tienen la capacidad de crear libremente utilizando su imaginación.
Esta capacidad de libre creatividad, junto con el pensamiento crítico, es fundamental para
la educación. Además, la curiosidad, de la que carece la IA, es un aspecto esencial del
aprendizaje.
La curiosidad nos permite cuestionar, investigar, descubrir y apreciar cosas
nuevas. Estas cualidades, como el pensamiento crítico, la ética, la empatía, la colaboración
y la imaginación, son partes integrales de la educación que la IA no puede replicar. La
cuestión de si la inteligencia artificial reemplazará a los docentes y eliminará la necesidad
de la escolarización tradicional es una preocupación común en los entornos educativos.
Empero, es importante reconocer que la IA no puede reemplazar el papel esencial de los
docentes en la promoción del pensamiento crítico y creativo.
Los sistemas de IA se limitan a responder a instrucciones basadas en la
información con la que han sido entrenados y los datos que han recibido. Incluso los
llamados textos "nuevos" generados por la IA son en realidad compilaciones de
información existente que se encuentra en varios sitios web. De manera similar, la IA
puede crear pinturas artísticas, pero solo si se la ha alimentado con imágenes que se
Pág. 73
alinean con las instrucciones del usuario. Es crucial reconocer que la tecnología y la
inteligencia artificial solo deben usarse como herramientas para mejorar y complementar
lo que nos hace humanos: nuestra creatividad, curiosidad, esperanza, ética, empatía,
determinación y capacidad de colaborar. La educación debe seguir dando prioridad a
estas cualidades humanas y utilizar la tecnología como una herramienta de apoyo en
lugar de un reemplazo de los maestros humanos y el entorno escolar tradicional.
Este es precisamente el aspecto que la educación debe priorizar, un aspecto que no
puede ofrecer ningún sistema de IA. ¿Qué otras cualidades únicas posee la escuela?
¿Cuáles son los desafíos educativos actuales frente a los continuos avances tecnológicos?
• En primer lugar, es fundamental enseñar a los estudiantes a esforzarse siempre
por ser mejores que las máquinas. Si un sistema de IA tiene la capacidad de
escribir, sin duda lo hará mejor que nosotros. Alternativamente, será la propia
inteligencia artificial la que tome decisiones por nosotros, de las que ya hemos sido
testigos de las consecuencias.
• En segundo lugar, es importante enseñar a los estudiantes cómo colaborar
eficazmente con la inteligencia artificial. Hoy en día, hay un énfasis creciente en
capacitar a los estudiantes como "copilotos". Este concepto a menudo se conoce
como "inteligencia sincronizada", donde las personas y la tecnología trabajan
juntas para crear un mundo mejor. La IA puede proporcionar memoria y acumular
información, pero es a través de la educación que los individuos aprenden a
analizar, seleccionar, evaluar y convertir esta información en conocimiento.
• En tercer lugar, la educación debe priorizar enseñar a los estudiantes a construir
argumentos bien razonados. Es esencial que los argumentos que presenten los
estudiantes para respaldar sus perspectivas sobre un tema determinado no se
Pág. 74
basen únicamente en un sistema de IA. Estos argumentos deben estar respaldados
por evidencia diversa y reflejar un punto de vista ético. Las escuelas deben enseñar
a los estudiantes la importancia de comparar fuentes encontradas en Internet,
incluidos textos que puedan no estar de acuerdo con sus creencias personales. Esto
desafía a los estudiantes a salir de sus zonas de confort, escuchar y valorar
diferentes puntos de vista y comprender que esto puede conducir a ideas nuevas
y mejoradas. En una sociedad democrática, la diversidad amplía las posibilidades
de realizar nuevos descubrimientos y adaptarse al cambio. La educación debe
romper las burbujas digitales que confinan a los individuos a sus propias
creencias, opiniones e ideas, ya que estas burbujas solo conducen a la
fragmentación y la polarización, como se observó anteriormente.
• Por último, la educación debe priorizar enseñar a los estudiantes a pensar. Aunque
este objetivo no es nuevo, hoy en día se ha vuelto cada vez más urgente. La
educación debe ir más allá de la mera memorización de hechos y evitar que la
acumulación de información sea el objetivo principal de la escolarización. La IA
tiene una memoria superior a la de los humanos y puede acumular grandes
cantidades de información, a menudo de manera más eficiente que las personas.
Por tanto, la educación debe ir más allá de la información. Es importante analizar
críticamente el contenido proporcionado por la IA, determinando su integridad,
precisión, confiabilidad o falsedad. Y es necesario utilizar estos datos como base
para formular preguntas de nivel superior que promuevan la reflexión y requieran
la aplicación de habilidades de pensamiento crítico.
• En la era digital actual, es crucial que la educación se centre en enseñar a los
estudiantes la importancia de la participación activa en la vida pública de sus
comunidades. La llegada de Internet ha abierto innumerables oportunidades para
Pág. 75
que las personas participen, resuelvan problemas y contribuyan a la sociedad. Al
dotar a los estudiantes de las habilidades y conocimientos necesarios para
participar activamente, la educación puede empoderarlos para marcar la
diferencia y tener un impacto tangible en su entorno. Es esencial que los
estudiantes no sólo tengan la oportunidad de actuar, sino también que
comprendan que sus acciones tienen importancia y pueden generar cambios
significativos. Este aspecto de la educación, que enfatiza el valor de la
participación, es algo que ningún sistema de inteligencia artificial puede replicar
ni promover. Además, la educación también debería enseñar a los estudiantes la
importancia de convertirse en creadores de contenidos en esta era digital. Dado
que Internet proporciona plataformas para que las personas compartan sus
pensamientos, ideas y perspectivas, es crucial que la educación fomente la
capacidad de hacer oír su voz. Internet ha democratizado el acto de creación,
permitiendo que cualquiera se haga visible y que sus ideas lleguen a un público
más amplio.
• Al enseñar a los estudiantes a ser creadores de contenido, la educación puede
capacitarlos para compartir sus perspectivas únicas, contribuir a conversaciones
en curso y, en última instancia, dar forma al mundo que los rodea. Los estudiantes
que se dedican a la creación de contenido digital basado en sus intereses e
inquietudes personales tienen una oportunidad increíble de interactuar con un
número ilimitado de personas. Además, pueden desarrollar sus habilidades para
colaborar con personas que tal vez ni siquiera conozcan, exponiéndose a una
amplia gama de ideas y perspectivas. Esta exposición a información diversa les
permite tomar decisiones mejor informadas. Es crucial que la educación se centre
en enseñar a los estudiantes a analizar y evaluar críticamente los contenidos en el
Pág. 76
mundo digital, así como en animarlos a convertirse ellos mismos en productores
de contenidos innovadores.
Este es un desafío distinto y significativo que el sistema educativo debe enfrentar
en la sociedad actual. Es imperativo que la educación defina su valor y propósito únicos.
Al aceptar este desafío y reevaluar su enfoque, la educación puede abrir un camino que
la inteligencia artificial nunca podrá replicar ni superar.
4.2 Abordaje en la clase sobre la IA
• Realizar una lista de situaciones en las que una duda, pregunta, problema o
inquietud que tuviste fue resuelta por una máquina. ¿Alguna vez te has
preguntado cómo lo hace? ¿Por qué crees que menos gente piensa en cómo
funciona esto?
• Piense en los riesgos que plantea el uso poco ético de la IA. ¿Has sufrido alguno
de ellos? ¿Conoce a alguien que haya sido afectado? ¿Puedes compartir un
ejemplo?
• “Será cada vez más difícil para las personas tomar decisiones por sí mismas a
medida que los algoritmos tomen decisiones por nosotros”. Analiza y discute este
concepto. ¿Está de acuerdo con esta afirmación? ¿Por qué? ¿Podrías dar algunos
ejemplos? ¿Les preocupa?
• Divida en dos grupos. El uno grupo debería investigar y enumerar cuáles son los
riesgos de los sistemas de reconocimiento facial. El otro grupo debería investigar
y enumerar los beneficios de este sistema. Presentar los resultados de cada grupo
a la clase. Luego decida qué argumento es más persuasivo. Finalmente,
exploraremos cómo se utiliza el reconocimiento facial en todo el mundo. Explique
Pág. 77
y justifique: ¿Está de acuerdo con estos usos? Inteligencia artificial - ¿Necesitamos
una nueva educación? Inteligencia artificial - ¿Necesitamos una nueva educación?
• Analice cómo diría alguien: "Sé mucho sobre ti". ¿Puedes dar un ejemplo de este
conocimiento personal que has sentido, vivido o experimentado mientras navegas
por la web?
• Divida en dos grupos. Un grupo se encarga de definir todos los beneficios,
facilidades, aportes y avances que la inteligencia artificial aporta a la vida
cotidiana. Otro grupo define los riesgos y preocupaciones que la IA ha creado en
todo el mundo. Presenta tu argumento a toda la clase. ¿A qué conclusión llegarán?
Después de analizar los beneficios y riesgos de la IA, ¿qué opinas de la IA?
• Pensar y diseñar juntos el contenido y eje de una campaña online, incluyendo
sugerencias para el diseño ético y el uso de inteligencia artificial.
• Utilice programas de inteligencia artificial basados en lenguaje para definir su
posición sobre temas de interés o preocupación. Pídale al sistema que justifique su
posición. Crea una lista de argumentos que dará la IA para justificar su posición.
Evaluar la efectividad de esos argumentos. ¿Te convenció? ¿porque? discutir y
escribir una conclusión.
• En grupos, desarrollar una discusión sobre un tema de interés o preocupación.
Luego, pídale al sistema de inteligencia artificial basado en el lenguaje que genere
una refutación a su opinión. Evaluar si el sistema es correcto. Vuelva a elaborar su
argumento incorporando lo que crea que es relevante para usted a partir de lo que
ha generado la IA.
Pág. 78
• Describe tus búsquedas recientes en Internet. ¿Qué dirían sobre tus intereses,
inquietudes y preferencias? ¿Qué diría de ti alguien que conozca tus búsquedas en
la web? ¿Crees que definen tu identidad?
• Pídele consejo a un sistema de IA sobre un tema que te preocupe o te interese.
Analiza los consejos que recibes. ¿Se basó en su información personal? ¿De dónde
crees que lo sacó? ¿Está satisfecho con el asesoramiento recibido? ¿Por qué?
• El sesgo de confirmación es la tendencia de las personas a buscar y seleccionar en
Internet únicamente información que confirme lo que ya piensan. por favor
piénsalo. ¿Cuáles son los riesgos de que las personas elijan únicamente contenido
que respalde sus ideas? ¿Crees que este mecanismo hace que sea más fácil creer en
las noticias falsas? Piénselo: Información sobre un tema en Internet. Cuando busca
ideas u opiniones, ¿lee ideas que no coinciden con las suyas? ¿Por qué?
• Si utilizas redes sociales, revisa tu perfil para asegurarte de recibir solo
información que coincida con tus intereses y opiniones. Si es así, ¿cuál crees que
es el motivo? ¿Cómo puedo revertirlo?
4.3 Reiniciar
En conclusión, a medida que la inteligencia artificial continúa avanzando e
integrándose en nuestras vidas, es crucial que reconozcamos la necesidad de una nueva
educación. Esta educación debería priorizar el desarrollo de habilidades que la IA no
puede replicar, como el pensamiento crítico, la creatividad, la empatía y la toma de
decisiones éticas. Al hacerlo, podemos garantizar que las personas estén preparadas para
navegar las complejidades de un mundo impulsado por la IA y tomar decisiones
informadas y responsables. Si bien es esencial reconocer la presencia de la inteligencia
Pág. 79
artificial en nuestras vidas, la educación no puede permitirse el lujo de ignorar su
influencia.
La IA ya ha comenzado a tomar decisiones que impactan nuestras vidas, moldean
nuestros comportamientos e influyen en nuestras perspectivas sobre el mundo. Por lo
tanto, se vuelve imperativo que la educación se adapte y responda a este avance
tecnológico a fin de dotar a las personas de las habilidades necesarias para navegar en un
futuro en el que la IA sea una presencia omnipresente. Ante una realidad cada vez más
compleja, dinámica y en constante cambio, hemos enfatizado la importancia de adquirir
las habilidades necesarias. Si bien es esencial adquirir competencia en el uso de
herramientas de medios digitales como Word, Excel y motores de búsqueda, es
igualmente crucial desarrollar habilidades de pensamiento crítico, una mentalidad
creativa y una comprensión de la tecnología e Internet. Es vital que aprendamos a
reflexionar, pensar y priorizar, ya que estas habilidades fundamentales no pueden
adquirirse en una etapa posterior si se descuidan inicialmente.
En esta extensa discusión sobre la inteligencia artificial, hemos profundizado en
su significado y alcance. Hemos examinado minuciosamente los aspectos éticos y no
éticos de su operación y explorado su impacto en nuestra vida diaria, así como su
influencia en nuestro proceso de toma de decisiones. Además, también hemos hablado
de los retos que plantea la inteligencia artificial para la educación. El sistema escolar tiene
la responsabilidad indiscutible de promover estas habilidades, que están más allá de las
capacidades de la inteligencia artificial. La educación debe estar a la altura del enorme
desafío de centrarse en áreas que la IA nunca podrá abordar por completo. Esto incluye
fortalecer las habilidades reflexivas y creativas, fomentar el pensamiento crítico, fomentar
la imaginación, cultivar la curiosidad, promover el trabajo en equipo eficaz, fomentar la
Pág. 80
empatía, inculcar valores éticos, fomentar la creatividad, fomentar la comunicación y
fomentar la participación activa.
La Inteligencia Artificial (IA) desempeña un papel importante en el mundo en el
que vivimos, especialmente en lo que respecta a la educación. Sin embargo, su
incorporación no debe limitarse a ser sólo una herramienta. Más bien, debería estudiarse,
analizarse y debatirse. La reflexión y el cuestionamiento son necesarios para comprender
su impacto social y humano, que es tan inmenso que requiere una filosofía rectora.
Necesitamos considerar qué debemos hacer con estas tecnologías y cómo nos afectarán.
Estas preguntas van más allá de meras respuestas técnicas y tocan valores y visiones de
lo que es bueno.
La educación debe priorizar la alfabetización digital, no solo para los estudiantes
sino también para los docentes. Debería capacitarlos para identificar, comprender y
responder a los nuevos problemas que surgen en el mundo digital, incluidos los que
presenta la inteligencia artificial. Surge la pregunta de si la IA puede reemplazar a las
escuelas, los docentes o la enseñanza, pero la respuesta sigue siendo constante: no,
siempre y cuando la educación no dependa de metodologías obsoletas y enfoques
simplificados.
La educación debe aportar valor añadido, evitando un énfasis excesivo en la
memoria, la copia y la acumulación. No debería aspirar a competir con las capacidades
de la IA, sino más bien analizarlas, debatirlas y complementarlas. La brecha digital se
define por las capacidades que tienen o carecen los individuos para identificar, enfrentar
y responder a los nuevos problemas y preguntas que surgen del uso de Internet. No se
trata simplemente de utilizar la herramienta, sino de comprenderla. La educación
enfrenta el desafío de pensar en las tecnologías en lugar de simplemente utilizarlas
instrumentalmente. Como enfatiza la UNESCO, la alfabetización digital empodera a los
Pág. 81
estudiantes en todos los ámbitos de la vida y les ayuda a alcanzar objetivos personales,
sociales, ocupacionales y educativos. Es un derecho básico en nuestro mundo digital y
promueve la inclusión social de todas las naciones.
Por lo tanto, la educación debe centrarse en formar ciudadanos digitales que
comprendan cómo funciona el entorno digital y los principios que lo rigen. Necesitan
analizar el lugar y el papel de las tecnologías en la sociedad, evaluar su impacto en la vida
diaria y comprender cómo contribuyen a la construcción del conocimiento. Estos
ciudadanos también deberían saber cómo utilizar estas tecnologías de manera efectiva
para la participación. Deben tener la capacidad de navegar en contextos digitales
complejos y comprender sus implicaciones en diversos aspectos de la vida, como el social,
económico, político, educativo y laboral.
Pág. 82
Conclusiones
En la era digital moderna, las personas están dispuestas a ceder sus datos
personales a cambio de diversas formas de gratificación. Ya sea para mejorar la salud
física o mantener un contacto regular con sus seres queridos, las personas a menudo
quieren ignorar los riesgos potenciales de revelar información personal. La popularidad
de las plataformas de redes sociales es otro ejemplo de este fenómeno, donde las personas
revelan voluntariamente datos confidenciales como fotografías, ubicaciones e
información personal a cambio de reconocimiento y aceptación social en forma de me
gusta y comentarios.
Esta tendencia se ve reforzada aún más por las asombrosas ventas de parlantes
inteligentes, que totalizaron 147 millones de unidades en 2019. Lo preocupante, sin
embargo, es el hecho de que un número importante de compradores de estos dispositivos
desconocen hasta qué punto se graban sus conversaciones y para qué se utiliza esta
información. La recopilación de datos sobre el comportamiento y la personalidad en línea
de las personas a través de redes sociales y motores de búsqueda es un proceso
importante y continuo. Una simple conexión a un dispositivo digital permite a estas
plataformas recopilar información sobre los usuarios, incluidos sus intereses,
personalidad y deseos.
El acceso a la inteligencia artificial desmedida no sólo da acceso a una gran
cantidad de información sino que también lo convierte en una fuente de datos, sin
embargo, aún falta camino para la ética en uso. Esta percepción se ha visto resaltada por
el auge de las redes sociales y las aplicaciones gratuitas, donde ha quedado claro que
cuando algo se ofrece gratis, a menudo significa que se están aprovechando de nosotros.
A cambio de los servicios que brindan estas empresas, sin darnos cuenta contribuimos a
sus ganancias brindándoles nuestra atención, que puede venderse a anunciantes y datos
Pág. 83
a nuestros individuos, que alimentan sus algoritmos. El mismo patrón se repite ahora con
los robots de inteligencia artificial, aunque a mayor escala y con nueva complejidad.
Aunque muchos usuarios no entienden claramente cómo las empresas tecnológicas
utilizan sus datos personales, no pueden ignorar este mecanismo. Es importante
reconocer que no se puede culpar únicamente a la tecnología por la falta de habilidades
de pensamiento crítico entre sus usuarios. Estas limitaciones existían mucho antes de que
existiera Internet. Sin embargo, a pesar de que la tecnología no es la causa directa de este
problema, ha expuesto y exacerbado la mala actitud crítica entre los adolescentes e
incluso los adultos.
Ahora queda la pregunta de por qué esta preocupación se ha convertido en un
problema global. ¿En qué se diferencian estas limitaciones actuales de las que existían en
el siglo XX? La respuesta a esta pregunta es multifacética; si bien el acceso no supervisado
no es el único responsable de este problema, sin duda lo ha intensificado.
Pág. 84
Bibliografía
Anderson, C. W., Bell, E. & Shirky, C. (2014). Post Industrial Journalism: Adapting
to the Present. New York: Columbia University Libraries.
Arbeláez-Campillo, D. F., Villasmil Espinoza, J. J., & Rojas-Bahamón, M. J. (2021).
Inteligencia artificial y condición humana: ¿Entidades contrapuestas o fuerzas
complementarias? Revista de Ciencias Sociales (Ve), XXVII(2), 502-513.
Beckett, C. (2019). New Powers, New Responsibilities: A Global Survey of
Journalism and Artificial Intelligence.
Bostrom, N. (2014). The ethics of artificial intelligence. Frankish, K. & Ramsey, M.
Cambrigde University Press: The Cambridge handbook of artificial intelligence.
Carlson, M. (2015). The Robotic Reporter: Automated journalism and the
redefinition of labor, compositional forms, and journalistic authority. Digital Journalism,
3(3), 416-431.
Diakopoulos, N. (2015). Algorithmic Accountability: Journalistic investigation of
computational power structures. Digital Journalism , 3(3), 398-415.
Firat, F. (2019). Robot journalism. The International Encyclopedia of Journalism
Studies, 1-5.
Fromm, E. (2003). Ética y psicoanálisis. Fondo de Cultura Económica.
Fukuyama, F. (2002). El fin del hombre: consecuencias de la revolución biotecnológica.
Madrid: Zeta.
Garrafa, V. (2009). Epistemología de la bioética, enfoque latinoamericano. Revista
Colombiana de Bioética, 4(1), 277-296.
Pág. 85
Glahn, H. (1970). Computer worded forecasts. Bulletin of the American
Meteorological Society, 51(12), 1126-1132.
Graefe, A. (2016). Guide to Automated Journalism. Columbia University Libraries.
Hottois, G. (1991). El paradigma bioético. Una ética para la tecnociencia. Barcelona:
Anthropos.
Hume, D. (1748). An enquiry concerning human understanding
Kaku, M. (2011). La física del futuro. Bogotá: Debate.
Kaku, M. (2014). El futuro de nuestra mente. Bogotá: Debate.
Kurzweil, R. (1992). The age of intelligent machines. Cambridge, M. A: MIT Press.
Kurzweil, R. (2005). The singularity is near: When humans transcend biology. Carlos,
G. Germany (trad.). Lola Books.
Lassi, A. (2022). Implicancias éticas de la inteligencia artificial. Tecnologías y
producción de noticias. InMediaciones de la Comunicación, 17(2), 153-169.
Linares, J. E. (2008). Ética y mundo tecnológico. México: FCE.
Martínez, M. (2009). La nueva ciencia: Su desafío, lógica y método. Trillas.
McCulloch, W. S. & Pitts, W. (1943). A logical calculus of the ideas immanent in
nervous activity. Bulletin of Mathematical Biophysics, 5, 115–133.
Morduchowicz, R. (2023). La inteligencia artificial ¿Necesitamos una nueva educación?
UNESCO: Francia.
Nath, R., & Sahu, V. (2020). The problem of machine ethics in artificial intelligence.
Artificial Intelligence and Society, 35(1), 103-111.
Pág. 86
Observatorio de RSC. (s. f.). La responsabilidad social corporativa (RSC).
Ríos, S. (1976). Análisis de decisiones. ICE Ediciones.
Schwartz, R., Dodge, J., Smith, N. A., & Etzioni, O. (2019). Allen Institute for AI,
Seattle, Washington, USA. Carnegie Mellon University, Pittsburgh, Pennsylvania, USA.
University of Washington, Seattle, Washington, USA.
Ponce, Julio & Torres, Aurora & Aguilera, Fátima & Silva Sprock, Antonio & Flor,
Ember & Casali, Ana & Scheihing, Eliana & Tupac, Yvan & Torres, Dolores & Ornelas,
Francisco & Hernández¹, José-Alberto & D., Crizpín & Vakhnia, Nodari & Pedreño,
Oswaldo. (2014). Inteligencia Artificial.
Pérez Orozco, B. y Rentería Rodríguez, M. (2018). Inteligencia Artificial. INCyTU,
12.
Savater, F. (1999). Ética para Amador. Ariel
Simon, H. (1960). The new science of management decision. Harper & Brothers.
UNESCO. (2022). Recomendación sobre la ética de la inteligencia artificial. UNESCO:
Francia.
Verdegay, J. L., Lamata, M. T., Pelta, D., & Cruz, C. (2021). Inteligencia artificial y
problemas de decisión: la necesidad de un contexto ético. Suma de Negocios, 12(27), 104-
114.
Villalba Gómez, J. A. (2016). Problemas bioéticos emergentes de la inteligencia
artificial. Diversitas: Perspectivas en Psicología, 12(1), 137-147.
Villasmil, J. (2020). La fragilidad de las civilizaciones humanas. Cuestiones Políticas,
37(64), 10-14.
Pág. 87
De esta edición de “Inteligencia artificial en la ética de la educación”, se
terminó de editar en la ciudad de Colonia del Sacramento en Septiembre de
2024
Pág. 88
