Latinoamérica sufre por el sesgo de los datos revela estudio de Progress

Inteligencia artificial: Más de la mitad de las empresas de Latinoamérica sufre por el sesgo de los datos, según un estudio de Progress. La mayoría de las organizaciones comprenden la importancia de mitigar el problema de la parcialidad en los datos (data bias) y creen que está muy extendido en sus empresas, pero tienen dificultades para abordarlo con eficacia.

Lima, Perú, 28 de mayo de 2023.— Progress, proveedor de software de infraestructura y desarrollo de aplicaciones líder en la región, anunció los resultados de su encuesta mundial “Data Bias: The Hidden Risk of AI” (Sesgo en los datos: el riesgo oculto de la inteligencia artificial).

Realizada por la firma de investigación independiente Insight Avenue, la encuesta de Progress se basa en entrevistas con más de 640 profesionales de negocios y TI, de nivel de director y superior, que utilizan datos para tomar decisiones y están utilizando o planean utilizar la inteligencia artificial (IA) y el aprendizaje automático (ML) para apoyar su toma de decisiones. El informe completo y las conclusiones pueden consultarse aquí.

Los prejuicios suelen heredarse de experiencias culturales y personales. Cuando se recogen datos y se utilizan en el entrenamiento de modelos de aprendizaje automático, los modelos heredan los sesgos de las personas que los construyen, produciendo resultados inesperados y potencialmente perjudiciales. Sin embargo, a pesar de los posibles riesgos legales y financieros asociados al sesgo en los datos, existe una falta de comprensión sobre la formación, los procesos y la tecnología necesarios para abordar con éxito esta parcialidad.

La encuesta de Progress indicó que el 73% de los responsables de la toma de decisiones empresariales y de TI en Latinoamérica creen que el sesgo de datos se convertirá en una preocupación mayor a medida que aumente el uso de la inteligencia artificial y el machine learning, pero solo el 22% lo está abordando actualmente y cuenta con un proceso de evaluación continuo. Los mayores obstáculos que observan son la falta de conciencia sobre los posibles sesgos, la comprensión de cómo identificarlos y la falta de recursos expertos disponibles, como el acceso a científicos de datos.

Los resultados de la encuesta en la región también muestran que:

• El 69% de las organizaciones de Latinoamérica prevé depender cada vez más de la inteligencia artificial y el machine learning para la toma de decisiones en los próximos años.
• El 59% cree que actualmente existe un sesgo de los datos en su organización.
• El 75% cree que necesita hacer más para abordar el sesgo de los datos.
• El 51% considera que la falta de conciencia y subestimación de los sesgos son un obstáculo para abordarlos.

A medida que la inteligencia artificial y el aprendizaje automático desempeñan un papel más importante en la toma de decisiones, las organizaciones deben ser conscientes del riesgo oculto de la parcialidad de los datos. Nuestra investigación muestra que, si las organizaciones no abordan el sesgo de datos, puede sufrir consecuencias legales, de seguridad y de reputación irreversibles a largo plazo. Con estos conocimientos y datos, queremos ayudar a nuestros clientes y al sector a comprender mejor el problema y tomar medidas”, dijo Francisco Larez, VP de Latinoamérica para Progress.

Encargada por Progress, la encuesta, “Data Bias: The Hidden Risk of AI“, fue realizada por Insight Avenue, una firma de investigación con sede en el Reino Unido, especializada en la investigación tecnológica entre empresas. Los resultados se basan en entrevistas con profesionales de empresas y TI de América, Europa y Asia, centradas en el uso de datos para la toma de decisiones.

Estos profesionales proceden de organizaciones con más de 500 empleados y fueron consultados para comprender mejor el conocimiento general del sesgo de los datos, cómo estaba afectando a los negocios y qué estaban haciendo para abordarlo.

Para ver los resultados completos, visite https://progress.com/papers/data-bias-the-hidden-risk-of-ai. 

Preguntándole a la Inteligencia Artificial el concepto de Data Bias (Nota de Redacción)

I.A.: El sesgo de datos, o “Data Bias” en inglés, se refiere a la tendencia o prejuicio en un conjunto de datos que puede surgir debido a una variedad de factores. El sesgo puede ser el resultado de los datos de entrada, los métodos de recopilación de datos, o el diseño del modelo de algoritmo. Puede resultar en la generación de resultados o conclusiones parciales que pueden ser injustas o inexactas.

Hay varios tipos de sesgo de datos, incluyendo:

1. Sesgo de selección: Este ocurre cuando los datos recogidos para el análisis no son representativos de la población que se pretende analizar.
2. Sesgo de confirmación: Este es el resultado de privilegiar información que confirme nuestras propias creencias o hipótesis, ignorando datos que podrían contradecirlas.
3. Sesgo de supervivencia: Este tipo de sesgo se produce cuando los datos disponibles para el análisis no son completamente representativos de la población total, porque sólo incluyen “supervivientes” o casos que han pasado algún tipo de preselección o cribado.
4. Sesgo en el diseño del algoritmo: Este ocurre cuando los modelos de algoritmos aprenden y replican sesgos inherentes en los datos de entrada.

El sesgo de datos en el aprendizaje automático y la inteligencia artificial es un problema importante, ya que los algoritmos y modelos que aprenden de estos datos pueden perpetuar e incluso amplificar estos sesgos, conduciendo a decisiones basadas en predicciones injustas o inexactas.

Enlaces Relacionados (N. del E.)

1. Definición del concepto estadístico Bias en Wikipedia
2. Artículo del autor George Lawton en el portal TechTarget

Apoya al Periodismo Independiente

¿Te sirvió en algo este contenido?, ayúdanos a combatir la Desinformación, dona desde S/ 1.00 a nuestro PLIN 943-438-457

Impactos: 13