Revista del IEEM
TOP

«Un buen directivo que utilice la IA deberá discutir con ella, pedir evidencia, cambiar los supuestos y contrastar distintas perspectivas»

Pablo Sartor

Profesor de Análisis de Decisiones y Sistemas de Información del IEEM

¿Qué cambia en el proceso de toma de decisiones cuando un directivo incorpora inteligencia artificial a su trabajo cotidiano?

Un aspecto importante es que cambia radicalmente la calidad y la velocidad con la que el directivo puede decidir. En muchos casos, tradicionalmente debían conformarse con analizar una pequeña fracción de la información disponible, porque el costo (sobre todo en tiempo) de procesarla era demasiado alto. Hoy la IA permite sintetizar documentos, comparar escenarios, identificar patrones y generar alternativas en cuestión de minutos.

La distribución del tiempo directivo se modifica también con la IA, en términos de los diferentes tipos de tarea inherentes a su función. En lugar de dedicar la mayor parte del tiempo a recopilar información, puede concentrarse en interpretar, cuestionar y decidir. Se reduce el costo de recopilar y procesar datos, quedando más tiempo para la aplicación de criterio y hacerse cargo de la responsabilidad de decidir, que sigue siendo 100 % humana.

Antes era común preguntar y trabajar bastante para responder a “¿qué pasó?”. Hoy es posible avanzar rápidamente hacia los “¿por qué pasó?”, “¿qué podría pasar?” y “¿qué opciones tengo?”. La IA actúa como un colaborador intelectual que ayuda a explorar escenarios que quizá el equipo no habría considerado. En particular, la encuentro sumamente útil a nivel directivo para ampliar los criterios de análisis, evaluar las diferentes consecuencias que pueden traer las alternativas bajo estudio y, especialmente, para evitar omitir aspectos relevantes.

Un peligro es volvernos de algún modo “complacientes”. La IA es buena generando respuestas que suenan convincentes, pero que bajo la lupa contienen errores o se basan en supuestos discutibles. Por eso el pensamiento crítico se vuelve incluso más importante, no menos. Un buen directivo que utilice la IA deberá discutir con ella, pedir evidencia, cambiar los supuestos y contrastar distintas perspectivas.

 

¿De qué forma es mejor incorporar la IA en una organización, bottom-up o top down?

Con frecuencia me hacen esta pregunta como si hubiera que elegir entre un enfoque u otro. Según la academia —y yo estoy de acuerdo por las experiencias que he visto o en las que he participado hasta ahora— lo mejor es combinar ambos enfoques, pero en momentos diferentes y con objetivos distintos.

La IA no es simplemente una nueva herramienta informática; tiene el potencial de transformar procesos, modelos de negocio y formas de trabajar. Por un lado, es muy sano que la dirección defina un marco de trabajo, prioridades, reglas de uso, criterios éticos, montos y el tiempo a invertir, etc. Pero en la práctica, esperar por todo esto supone usualmente una enorme ventaja en tiempos para los competidores, y, por otra parte, implica el riesgo de tomar definiciones alejadas de las que deberían ser las prioridades y oportunidades más convenientes. Una estrategia exclusivamente top-down suele ser entonces muy lenta, de difícil adopción y bajo retorno de las iniciativas llevadas adelante.

En innovación hablamos hace décadas del concepto de “usuario líder”. Las mejores oportunidades de aplicación suelen provenir de quienes están todos los días resolviendo problemas concretos. Son los analistas, vendedores, administrativos, ingenieros o profesionales de primera línea quienes conocen dónde existen tareas repetitivas, cuellos de botella o procesos susceptibles de mejorar mediante IA.

¿Es preferible entonces el modelo bottom-up? Tampoco, pues tiene muchos riesgos importantes. Cada unidad o departamento trabajará sobre tecnologías diferentes, que luego será difícil unificar. Unir diversos desarrollos suele ser más propenso a brechas de seguridad y a generar toda una capa de interconexiones que termina consumiendo importantes recursos en tiempo de personas. Puede también suceder que se pongan en práctica acciones que la alta dirección no aprobaría en términos de comportamientos éticos, grises legales y otras cuestiones similares.

Por eso lo mejor resulta ser un modelo híbrido y no lineal. La dirección debe establecer un primer rumbo, muy amplio, rápidamente, sin entrar en detalles, que habilite (y ponga un marco) a la experimentación bottom-up. Estas experiencias le darán a la alta dirección de forma rápida una mejor comprensión de problemas y oportunidades, para entonces sí fijar un marco más detallado, que resulte en una segunda ola de innovaciones en los equipos, y quizá recién luego de ello definir grandes proyectos que aúnen a toda o varias partes de la organización tras un mismo objetivo.

«Incorporar la IA no es un proyecto tecnológico, sino un proceso de transformación organizacional. Necesita una visión estratégica y una apropiación genuina».

En definitiva, incorporar la IA no es un proyecto tecnológico, sino un proceso de transformación organizacional. Por eso necesita una visión estratégica impulsada desde arriba y una apropiación genuina por parte de quienes realizan el trabajo cotidiano. Cuando ambas dimensiones se complementan, la adopción deja de ser una moda y puede pasar a ser una fuente de ventajas competitivas sostenibles.

 

¿La IA ayuda a reducir sesgos o corre el riesgo de amplificarlos?

Pienso que puede hacer ambas cosas. Así como tiene la capacidad de reducir muchos sesgos humanos, también puede amplificar los existentes si se utiliza sin criterio.

Las personas tomamos decisiones influenciadas por prejuicios, emociones, experiencias recientes o exceso de confianza. En algunos procesos, una IA bien diseñada puede aportar mayor consistencia, analizar grandes volúmenes de información y detectar relaciones que un ser humano probablemente pasaría por alto. En ese sentido, puede contribuir a tomar decisiones más objetivas.

Sin embargo, la IA aprende a partir de datos, y los datos reflejan realidades, como, por ejemplo, comportamientos y decisiones tomadas, con todas sus virtudes y también con todos sus defectos. Si los datos históricos describen decisiones tomadas por humanos en las que hubo sesgos, un modelo que se entrene a partir de dichos datos reproducirá los mismos comportamientos sesgados. Y, además, un sesgo frecuente en muchas personas (entre ellas, los tomadores de decisiones de negocio) es confiar especialmente en las recomendaciones dadas por una computadora, por provenir de sistemas supuestamente muy sofisticados, libres de subjetividades humanas y basados en complejos algoritmos. A esto se le llama “sesgo de automatización”. A esto se suma que, cuando una respuesta luce bien redactada y con aparente seguridad, lo cual es típico de las IA que estamos viendo, resulta fácil bajar la guardia y dejar de cuestionarla.

Pienso que hay que equilibrar los esfuerzos de construcción de modelos con los de “desarrollar mejores usuarios”. Que sean capaces de preguntar de dónde provienen los datos, cuáles fueron los supuestos del modelo, qué información pudo haber quedado fuera y poner en jaque con repreguntas las recomendaciones para ganar en confianza sobre los análisis. Y como regla de oro darle poca relevancia a la recomendación que hace la IA y enfocarse en los aspectos de la realidad que pone en la mesa para su análisis, que es donde más riqueza veo que aporta al directivo. Justamente lo que en el método del caso llamamos criterios.

 

¿Cómo debería un líder equilibrar datos, experiencia, intuición y recomendaciones
generadas por IA?

Pienso que las cuatro fuentes son importantes. En la medida en que los datos estén disponibles o se puedan conseguir con esfuerzos razonables, si disponemos de mecanismos para resumirlos, organizarlos y digerirlos más potentes, siempre podrán enriquecer nuestras decisiones, dar trazabilidad sobre ellas y mejorar las futuras decisiones a partir de las presentes.

Podríamos resumir la experiencia como “datos y patrones históricos escasamente conscientes”. Es decir, la persona que tiene mucha experiencia ha repetido con variantes menores y mayores ciertos procesos de decisión y contextos. Un directivo acumula años enfrentando situaciones complejas, negociando con personas y aprendiendo de éxitos y fracasos. Esa experiencia permite reconocer, por ejemplo, cuándo una recomendación aparentemente correcta puede ser inviable en la práctica.

La intuición, como digo siempre, es espectacular: es gratuita e inmediata. Por supuesto que decidir por intuición nos expone a todo tipo de sesgos y decisiones incorrectas. Podemos definirla como “estadística inconsciente”. Cuando intuimos es porque vemos patrones que se condicen con observaciones pasadas y en base a ello elaboramos una “posición” en fracciones de segundos. La intuición es un insumo muy útil para contrastar contra lo que la aplicación de métodos y herramientas nos dicte. Si están alineadas, bárbaro, tenemos un plan. Si no, convendrá revisar tanto el proceso técnico, dedicándole tiempo y recursos adicionales, como la propia intuición, preguntándonos por qué nos dirá lo que nos dice, qué preconceptos podríamos estar aplicando, qué información nos puede faltar que los modelos sí incorporaron, etc. Buscando, en definitiva, acercar ambas fuentes de recomendación.

«Un buen uso de la IA pasa por utilizarla como ‘abogada del diablo’. Pedirle alternativas, hacerla cuestionar nuestras hipótesis, explorar escenarios extremos o identificar riesgos que no estamos viendo».

Un buen uso de la IA pasa por utilizarla como “abogada del diablo”. Pedirle alternativas, hacerla cuestionar nuestras hipótesis, explorar escenarios extremos o identificar riesgos que no estamos viendo. Pero la decisión final debe surgir de la integración entre evidencia, conocimiento del negocio, comprensión del contexto y responsabilidad directiva.

 

¿Cuáles son los errores más frecuentes que observás en las empresas al adoptar estas herramientas?

Una respuesta anterior pone dos ejemplos de errores: forzar un enfoque top-down o descansarse puramente sobre el bottom-up. Otro error habitual es el de incorporar una herramienta —por ejemplo, un contrato a nivel empresa con OpenAI— para “que la gente empiece a usarlo”. Este tipo de error no es algo nuevo que aparezca con la IA. Siempre recomiendo que antes de incorporar tecnología se trabaje sobre una lista de preguntas de negocio, y luego se haga esfuerzos progresivos, pero siempre con el norte de responder a dichas preguntas. En el camino descubriremos nuevas formas de aprovechar la tecnología y esas serán buenas noticias. Pero insisto en ese norte, antes de gastar un peso en consultores, licencias y prototipos.

Otro error es buscar casos de uso demasiado ambiciosos desde el comienzo e insistir sobre el uso de IA para ello. A menudo, y particularmente en Uruguay, encuentro empresas que tienen oportunidades de incorporar tecnologías “más tradicionales” por así llamarlas, con resultados más previsibles que la experimentación con la IA. Posiblemente cualquiera de esas iniciativas también incorporará algo de IA y eso permitirá ir entrando en el terreno. Por ejemplo, una empresa pequeña o mediana con grandes dificultades para analizar su información porque utiliza un ERP muy limitado a tales efectos, debería comenzar por implementar un almacén de datos y herramientas de analytics, donde ya aprovecharía para montar una interfaz con LLM encima para poder “conversar” con la información numérica en castellano, lo que llamamos augmented analytics.

Otro error que observo es desatender la calidad de los datos, que es una tarea que sigue requiriendo horas hombre y suele ser menospreciada. Y el más complejo quizás es la tendencia a subestimar el cambio cultural. Muchas implementaciones fracasan no por limitaciones técnicas, sino porque las personas no entienden cuál será su rol, qué expectativas hay sobre ellas con relación a la IA, sienten que amenaza su trabajo o simplemente no reciben capacitación suficiente. Esto no impide la adopción de la IA, pero la retrasa, genera frustración, pérdida de buen talento y pobres retornos sobre lo invertido.

 

Postear un comentario