Los riesgos del sesgo en los proyectos de IA
Por Francisco Larez, vicepresidente de Progress para América Latina y el Caribe:
La inteligencia artificial (IA) tiene el potencial de ofrecer valor comercial para las organizaciones, y su adopción fue acelerada por los desafíos que trajo consigo la pandemia. Según las proyecciones de IDC, este año la inversión en tecnologías como la IA, el aprendizaje automático, la automatización y la robótica crecerá 32 veces más rápido que la economía de América Latina.
Otra investigación publicada por Gartner indica que los CEOs han elegido la IA como la principal tecnología con un impacto significativo en los negocios, y Forrester estima que el mercado de software de inteligencia artificial alcanzará los 37 mil millones de dólares para 2025.
Más recientemente, nuevas herramientas de IA generativa, como ChatGPT, se han vuelto populares entre los consumidores de todo el mundo, causando una revolución en la industria. Aunque la IA no es algo nuevo, estas aplicaciones democratizan el acceso a la tecnología y tienen el potencial de transformar los procesos de TI relacionados con la atención al cliente, el soporte, las negociaciones y la innovación de productos.
Sin embargo, a pesar de los beneficios que aporta, el ascenso de la IA también suscita preocupaciones en torno al sesgo en los datos: situaciones en las que la tecnología toma decisiones sistemáticamente injustas para ciertos grupos sociales, lo que puede causar daños reales a personas y empresas. Un artículo publicado en Harvard Business Review advierte que en la actualidad, la mayor parte del desarrollo de inteligencia artificial lo lleva a cabo un pequeño grupo de personas altamente técnicas y culturalmente homogéneas, lo que sienta un precedente para la creación de sistemas basados en una visión limitada del mundo.
Según una encuesta de Progress, a nivel global, el 78% de los líderes empresariales y de TI creen que el sesgo en los datos se convertirá en una preocupación mayor a medida que aumente el uso de la IA, pero solo el 13% está abordando el problema y tiene un proceso de evaluación continuo. En Latinoamérica, el 73% de los responsables de la toma de decisiones afirma enfrentar este problema.
En este contexto, como resultado de la falta de diversidad de perspectivas entre quienes entrenan y desarrollan los sistemas, las herramientas que antes eran disruptivas pueden convertirse en un riesgo al producir resultados inesperados y potencialmente perjudiciales. Un ejemplo destacado de este fenómeno ocurrió cuando se descubrió que los algoritmos de contratación basados en IA favorecían a candidatos masculinos en detrimento de las mujeres, debido al sesgo presente en los datos históricos.
En otra situación, una empresa que intentaba recrear personajes identificando diferentes países del mundo con generadores de imágenes impulsados por IA obtuvo resultados que contenían formas extremas de sesgo en la representación, incluidas características racistas. Es decir, los riesgos inherentes al sesgo en los datos no pueden subestimarse, ya que pueden comprometer seriamente la confiabilidad de las operaciones y socavar la integridad de las decisiones empresariales.
Las compañías que descuidan este aspecto de la implementación de la IA corren el riesgo de enfrentar implicaciones legales, de reputación y financieras significativas. Además, depender de sistemas sesgados puede excluir a ciertos grupos de consumidores, reduciendo la inclusión y el potencial del mercado. Por lo tanto, es importante que las organizaciones estén alerta a las formas de prejuicio que estas tecnologías pueden fomentar.
Veremos cada vez más la necesidad de establecer estándares y normas claras y precisas para el uso de la IA, así como de controlar la calidad en el uso efectivo y responsable de la tecnología. Todo esto impactará la forma en que las empresas utilizan la tecnología para hacer negocios, innovar y atender a sus clientes. Un enfoque cauteloso y consciente frente a este desafío garantizará que la IA contribuya a un crecimiento sostenible e inclusivo, en lugar de perpetuar desigualdades y riesgos no deseados.
WhatsApp eSemanal 55 7360 5651
