Cómo afecta el sesgo lingüístico de la IA a la igualdad, el desempeño y la estrategia internacional
Más allá de afectar al presupuesto, el sesgo lingüístico que se cuela fácilmente en los sistemas de IA tiene otras consecuencias significativas. Asimismo, las herramientas o los sistemas que se sustentan en conjuntos de datos ineficaces perjudican considerablemente a la igualdad, el desempeño y la estrategia general de la empresa.
Cuando la IA descuida mercados enteros
Cuando la IA solo «funciona» para los angloparlantes, millones de personas quedan excluidas y no pueden acceder a los servicios digitales en condiciones de igualdad, ya se trate de plataformas educativas, de herramientas financieras o de información gubernamental. Los datos multilingües son fundamentales para crear IA inclusivas.
Pongámonos en la situación de un estudiante de una zona rural de Vietnam que intenta utilizar una aplicación educativa basada en una IA que no es capaz de interpretar correctamente las consultas en vietnamita. O en la de un trabajador inmigrante que, estando en Italia, utiliza un chatbot de IA al que le cuesta entender su acento cuando pregunta por servicios bancarios esenciales. En ambos casos, la tecnología crea barreras en lugar de derrumbarlas, en especial en un contexto en el que cada vez más servicios se prestan exclusivamente a través de plataformas o aplicaciones en línea.
Aquí es donde los datos multilingües se convierten en mucho más que un requisito técnico y pasan a ser un factor crítico para la igualdad, ya que determinan quiénes logran acceder de forma fiable a servicios digitales esenciales y quiénes quedan excluidos.
Por qué el sesgo lingüístico de la IA limita la estrategia internacional
Pero, en concreto, ¿cómo repercute esto en las empresas? Además de generar incoherencias técnicas, los conjuntos de datos de IA limitados pueden moldear —u obstaculizar— toda una estrategia de mercado.
Cuando las herramientas de IA solo resultan eficaces en inglés, los equipos terminan retrasando o limitando el lanzamiento de sus productos en mercados no angloparlantes, ya que la tecnología no está lista. La automatización de cara al cliente resulta poco fiable, los equipos multilingües no pueden valerse de las herramientas de búsqueda internas y la información sobre los productos se ciñe al comportamiento de los angloparlantes.
Ejemplo práctico:
- Una marca minorista quiere expandirse en el Sudeste Asiático. Su clasificador de productos, destinada a etiquetar y clasificar los artículos con precisión, funciona perfectamente en Estados Unidos y Reino Unido, puesto que se ha entrenado en inglés.
- No obstante, cuando el mismo modelo debe tratar descripciones de productos en tailandés o malayo, su precisión deja mucho que desear. En consecuencia, los resultados de las búsquedas pierden fiabilidad, las recomendaciones dejan de ser relevantes y el equipo de merchandising malgasta infinidad de horas corrigiendo datos mal clasificados.
- El perjuicio es tanto estratégico como operativo, ya que ralentiza el crecimiento en la región y debilita la competitividad.
- Los sesgos de la IA no solo afectan a los usuarios. Influye en las prioridades de las empresas a la hora de escoger en qué mercados expandirse, así como la rapidez con la que lo hacen y la confianza con la que compiten a escala mundial.