Inteligencia artificial (IA): Problemas de la IA: sesgos, alucinaciones, ...

Brecha de acceso tecnológico:

•   Disponibilidad limitada de internet de alta velocidad

•   Falta de dispositivos adecuados para utilizar herramientas de IA avanzadas

•   Costes económicos de las versiones premium de herramientas de IA

Brecha de competencias digitales:

•   Diferentes niveles de alfabetización digital entre la población

•   Falta de formación específica en el uso efectivo de herramientas de IA

•   Desconocimiento sobre limitaciones y riesgos de la IA

Brecha generacional:

•   Mayor facilidad de adopción entre estudiantes más jóvenes

•   Resistencia o dificultades entre profesorado senior

•   Diferentes expectativas sobre el rol de la tecnología en la educación

Sesgos en los Sistemas de Inteligencia Artificial

Los sesgos en los LLM pueden provenir de los datos con los que fueron entrenados, lo que puede dar lugar, por ejemplo, a una representación desproporcionada de ciertos grupos culturales, géneros o regiones geográficas.

Pero también pueden estar originados por el propio diseño de algoritmos, ya que los desarrolladores toman decisiones sobre qué variables incluir, cómo ponderar diferentes factores y qué métricas utilizar. Estas elecciones aparentemente técnicas pueden incorporar valores y perspectivas específicas que no son universales. La falta de diversidad en los equipos técnicos puede resultar en algoritmos que no tienen en cuenta las necesidades de determinados grupos de población. Aunque los datos parezcan objetivos, las decisiones sobre qué datos recopilar, cómo limpiarlos y prepararlos, y qué características extraer introducen sesgos sistemáticos.

Tipos de Sesgos

Sesgo de representación: Los datos de entrenamiento pueden sobrerrepresentar ciertos grupos demográficos, culturales o geográficos, generalmente población occidental, masculina y de habla inglesa.

Sesgo histórico: Se perpetúan desigualdades y prejuicios presentes en los datos históricos utilizados para el entrenamiento.

Sesgo de confirmación: Tendencia a reforzar perspectivas dominantes o mayoritarias presentes en los datos de entrenamiento.

Sesgo lingüístico: Mayor precisión y sofisticación en idiomas ampliamente representados (principalmente inglés) frente a lenguas minoritarias.

Fallos o alucinaciones

Las alucinaciones en IA se refieren a la generación de información que parece plausible pero que es objetivamente incorrecta, inventada o no está respaldada por los datos de entrenamiento. Pueden socavar la confianza en los sistemas de IA, especialmente en aplicaciones críticas como medicina, educación o toma de decisiones empresariales.

Se trata de algo similar a cómo los humanos a veces ven figuras en las nubes o caras en la luna.

Las alucinaciones en IA, aunque problemáticas en muchos contextos, han encontrado aplicaciones constructivas en ciertos campos:

Creatividad y generación artística: las alucinaciones pueden ser valiosas para la creación literaria, musical o visual. La capacidad de generar conexiones inesperadas y contenido original puede inspirar nuevas obras. En escritura creativa, por ejemplo, pueden surgir metáforas o narrativas innovadoras que un autor puede desarrollar posteriormente.

Lluvia de ideas y brainstorming: en procesos creativos, las asociaciones imprevistas generadas por alucinaciones pueden servir como punto de partida para explorar nuevas perspectivas o soluciones, pueden estimular el pensamiento divergente.

Entretenimiento y juegos: en videojuegos o aplicaciones de entretenimiento, las alucinaciones pueden crear narrativas impredecibles, personajes únicos o mundos fantásticos que enriquecen la experiencia del usuario.

Investigación sobre cognición: las alucinaciones de IA proporcionan perspectivas sobre cómo funcionan estos sistemas y pueden ayudar a comprender mejor los procesos cognitivos humanos por contraste.