Avance de IA será resultado de prácticas responsables: PwC
Se estima que el potencial económico de la inteligencia artificial (IA) de $15.7 billones de dólares solo se materializará mediante la integración de prácticas responsables de IA en todas las organizaciones, mismas que deben tomarse en cuenta antes de implementar cualquier avance de estas tecnologías, según revela estudio de PwC.
Enfrentar un enfoque poco sistemático para el desarrollo y la integración de la IA -lo cual está exponiendo a las organizaciones a riesgos potenciales- requiere que las compañías incorporen en su estructura un entendimiento sobre los procesos de desarrollo e integración de prácticas de IA responsables, según afirma un nuevo conjunto de herramientas publicado por PwC durante el Foro Económico Mundial en Dalian, China.
La firma dijo identificar cinco dimensiones en las que se deben enfocar las organizaciones para adaptar su estrategia de diseño, desarrollo y despliegue de IA: gobernanza; ética y regulación; interpretabilidad y explicabilidad; robustez y seguridad, y sesgo y equidad.
Estas dimensiones se centran en incorporar la planificación y la gobernanza en el desarrollo de IA, combatiendo así la preocupación pública en temas de imparcialidad, confianza y responsabilidad, explicó PwC.
Agregó que a principios de este año, 85 % de los CEO dijeron que la IA cambiaría la forma de hacer negocios en los próximos cinco años, y 84 % admitió que las decisiones basadas en IA deben poder ser explicadas para que tengan mayor credibilidad.
Anand Rao, líder Global de IA de PwC US, dijo: “El tema de la ética y responsabilidad en la IA son una preocupación para la mayoría de los líderes empresariales. Los equipos de liderazgo senior deben impulsar e involucrarse en la integración de una estrategia responsable y éticamente dirigida para el desarrollo de la IA con la finalidad de equilibrar los beneficios económicos que se derivan del efecto transformacional de estas soluciones y servicios en los negocios y la sociedad. El uno sin el otro representa riesgos en la reputación, la operación y las finanzas”.
El conjunto de herramientas de IA responsable de PwC incluye una encuesta de diagnóstico que permite a las organizaciones evaluar su entendimiento y aplicación de las prácticas responsables y éticas de IA. En mayo y junio de 2019, alrededor de 250 involucrados en el desarrollo y despliegue de IA completaron la evaluación, indicó la consultora.
Los resultados demostraron signos de inmadurez e inconsistencias en cuanto al entendimiento y la aplicación de prácticas responsables y éticas de IA:
–El 25 % de los encuestados mencionaron que darían prioridad a las implicaciones éticas de una solución de IA antes de implementarla.
–Uno de cada cinco (20 %) tiene procesos para identificar riesgos asociados con la IA. Más de 60 % dependen de desarrolladores externos, procesos informales o carecen de procedimientos documentados.
–Si bien existían marcos o consideraciones éticas de IA, su aplicación no era consistente.
–56 % respondieron que les resultaría difícil articular la causa si la IA de su organización hiciera algo mal.
–Más de la mitad de los encuestados no han formalizado su estrategia para evaluar sesgos en la IA, y explican que ello se puede deber a una falta de conocimientos, herramientas o evaluaciones adecuadas.
–39 % de los encuestados que ya trabajan con IA aplicada a escala están «más o menos» seguros de que sabrían cómo detener su IA si algo sale mal.
Anand Rao destacó como crucial que los miembros de los equipos de liderazgo senior revisen las prácticas actuales y futuras de IA dentro de su organización, formulando preguntas no solo para enfrentar los riesgos potenciales, sino también para identificar si existen estrategias, controles y procesos adecuados.
