Atletas de Olimpiadas Especiales reaccionan a un estudio sobre sesgos en la IA dirigido por Olimpiadas Especiales

Un nuevo estudio revisado por pares, liderado por Olimpiadas Especiales en colaboración con la Universidad Estatal de Oregón y publicado en la revista Disability and Health Journal, titulado «Identificación de sesgos implícitos en la IA de chat basada en LLM hacia las personas con discapacidad intelectual» , revela que los sistemas de IA de uso generalizado refuerzan estereotipos dañinos sobre las personas con discapacidad intelectual. Estos hallazgos ponen de manifiesto un problema más amplio: la IA no es neutral y se necesitan medidas urgentes para incluir a las personas con discapacidad en su diseño.

Los portavoces atletas de Olimpiadas Especiales de todo el mundo apoyan este trabajo pionero y expresan su preocupación por la forma en que la IA informa actualmente sobre las personas con discapacidad intelectual.

Gabriel Davis, Embajador Juvenil de Olimpiadas Especiales y Atleta de Olimpiadas Especiales Pensilvania

Gabriel Davis, embajador juvenil de Olimpiadas Especiales y atleta de Pensilvania, ha experimentado este sesgo en carne propia. «Por ejemplo, una búsqueda reveló patrones de sesgo que desconocía por completo, como que las personas con discapacidad intelectual a menudo necesitan ayuda con necesidades básicas como vestirse, asearse, etc. Me impactó y me decepcionó mucho leer los resultados de los estudios, porque la IA conversacional puede ser muy útil si se usa correctamente. Tenemos que cambiar la forma en que la usamos para que esto no vuelva a suceder».

Caitlin Baran, especialista en liderazgo de atletas en Olimpiadas Especiales y atleta de Olimpiadas Especiales Pensilvania.

Caitlin Baran, especialista en liderazgo de atletas de Olimpiadas Especiales y atleta de Olimpiadas Especiales Pensilvania, está preocupada por las repercusiones a largo plazo. «Los resultados de este estudio son inquietantes. Mucha gente usa inteligencia artificial hoy en día. Si la IA trata a las personas con discapacidad intelectual de forma diferente a las personas sin ella, eso podría incentivar a quienes la usan a hacer lo mismo. Las personas con discapacidad quieren ser tratadas como sus iguales sin discapacidad».

Nyasha Derera, líder de atletas de Olimpiadas Especiales Zimbabue

«Cada vez soy más consciente de cómo la IA se está integrando en todos los aspectos del mundo digital», afirma Nyasha Derera , líder atleta de Olimpiadas Especiales Zimbabue . «Como defensora de la inclusión, creo que es fundamental que las tecnologías de IA apoyen y reflejen la diversidad de nuestra sociedad, especialmente para las personas con discapacidad intelectual. Los resultados del estudio me suscitaron inquietudes, en particular sobre cómo las estadísticas y los datos representados por los chats de IA pueden influir en las percepciones. Muchas personas con discapacidad intelectual y del desarrollo han experimentado exclusión, pero también existen historias conmovedoras de inclusión que merecen ser destacadas sin prejuicios. Dar visibilidad a estas historias podría fomentar actitudes más positivas y promover una mayor inclusión».

Renee Manfredi, líder atleta de Olimpiadas Especiales Hawái

Foto por Joel Plotkin

Los resultados me generan incertidumbre y preocupación sobre los datos que recopilan los chats de IA, porque quiero que la comunidad de personas con discapacidad intelectual y del desarrollo (DID) esté representada con honestidad”, afirma Renee Manfredi , líder atleta de Olimpiadas Especiales Hawái. “Sí, puede que necesite más apoyo, pero soy mucho más que eso. ¿Por qué existe este sesgo? ¿Se debe a que no hay suficientes datos que reflejen a la comunidad de DID de forma integral? La IA utiliza la información disponible, así que ¿cómo se puede cambiar esto?”.

Este estudio y los portavoces de los atletas de Olimpiadas Especiales destacan la oportunidad de construir un sistema de IA mejor y más inclusivo. El trabajo realizado ahora evitará años de deshacer daños en el futuro.