Por Maria Carolina Abdelnabe Vila (*). Si bien todo parece haber surgido hace un par de años, luego de la pandemia, la realidad es otra: estamos en presencia de la inteligencia artificial (IA) desde hace ya varias décadas. Alan Turing planteó que las máquinas podían aprender de la experiencia para resolver problemas sin ser explícitamente programadas en su Intelligent Machinery (1948). Tenemos también la histórica derrota de Garry Kasparov en 1997 ante Deep Blue, que demostró la capacidad de la computación analítica pura, pero que también inspiró al gran maestro a idear el concepto del “ajedrez centauro”, donde la intuición humana y el cálculo del algoritmo juegan en alianza.
Hoy, esa visión cobra una dimensión inédita con la llegada de la IA generativa: aquella inteligencia artificial que ya no solo clasifica o discrimina información, sino que crea contenido nuevo a partir de patrones aprendidos, consolidando la era del hombre centauro moderno. En esta nueva era, la humanidad necesita cada vez más de la IA en su día a día, pero al mismo tiempo advierte los severos riesgos que implica liberarla a funcionar sin supervisión.
En este contexto, pareciera que un futuro promisorio sería el humano y una IA haciendo equipo, combinando la intuición y el juicio crítico del primero con la capacidad de procesamiento de la segunda. Esta simbiosis no sólo representa uno de los mayores beneficios del progreso tecnológico, sino también la clave para mitigar sus peores amenazas. La IA debe actuar como el “cuerpo” que ejecuta el trabajo pesado, mientras la mente humana dirige y fiscaliza.
El mayor atributo de la IA radica en su extraordinaria capacidad para el manejo de datos.
La mente humana no puede alcanzar la rapidez y aséptica precisión de procesamiento de una IA, y tiene límites fisiológicos que la IA no tiene: se cansa, se aburre, etcétera. Ello, al tiempo que, gracias a su gran poder creador, se termina el pánico de la hoja en blanco en varias de las profesiones. Basta con indicar en un prompt —muchas veces incluso una nota de voz— la “idea” que se tiene para que la IA genere un primer borrador.
Sin embargo, cuando el humano “desmonta” del centauro y deja que la máquina opere en piloto automático sin supervisión, emergen los verdaderos peligros:
Las “alucinaciones” (afirmaciones falsas o infundadas formuladas con apariencia de certeza): al ser una máquina de probabilidades y no de verdades, la IA puede inventar el contenido. Su misión no es entregar verdades, sino entregar trabajos que sean semánticamente perfectos, ¡y claro que lo son!
Otro de los peligros consiste en el posible riesgo de pérdida de confidencialidad y secreto profesional: especialmente con el uso de herramientas gratuitas, y dependiendo de los términos ofrecidos por el proveedor, el contenido ingresado como prompt puede no estar seguro e incluso servir para entrenar el modelo.
Por ello, antes de exponer datos sensibles o confidenciales, es menester cerciorarse de cuáles son las condiciones aplicables. De no tomar estos recaudos, pueden verse comprometidos deberes de confidencialidad, secreto profesional, protección de datos o seguridad de la información.
También se suman escabrosas contingencias de propiedad intelectual y derecho de autor. Los modelos se entrenan con una heterogénea cantidad de datos, pudiendo no quedar exentas obras protegidas que luego pueden ser inocentemente incorporadas a los resultados que recibirá el usuario sin advertencia.
Otra discusión refiere a si los resultados generados merecen protección, en qué medida y a quién corresponden. Las respuestas varían según la jurisdicción y siguen abiertas.
Más allá de las alucinaciones algorítmicas o las filtraciones de privacidad, el peligro más silencioso pero devastador de esta era es la atrofia del pensamiento crítico. Al caer en la tentación del automatismo y la comodidad del “copiar y pegar”, corremos el riesgo de delegar ciegamente el razonamiento, la estrategia y el análisis en una máquina de probabilidades que no busca la verdad, sino la coherencia estadística.
Si el profesional abdica de su rol fiscalizador y deja de pasar cada respuesta por el filtro de su propio juicio reflexivo, el ejercicio de la profesión y la toma de decisiones se vuelven mecánicos, fríos y profundamente vulnerables al error. La atrofia del pensamiento crítico no solo deshumaniza la tarea, sino que nos despoja justamente de aquello que nos hace insustituibles frente al algoritmo.
La IA no debe ser vista como un ente autónomo destinado a reemplazar al ser humano, sino como la mitad de una nueva criatura: el hombre centauro moderno. Ignorar sus beneficios constituye un acto de ceguera hacia el progreso; ignorar sus riesgos configura un acto de negligencia en cualquier profesión.
El verdadero reto no radica en detener el desarrollo tecnológico ni en confiar en que una regulación prohibitiva resuelva el conflicto. El desafío es lograr un equilibrio en el que los beneficios de esta magnífica invención humana que es la IA, no sean eclipsados por los peligros que trae, y para ello debe procurarse que siempre evolucione guiada por el juicio, la ética y la responsabilidad humana.
(*) Abogada, Socia del Área de Tecnología de Pérez Alati, Grondona, Benites & Arntsen (PAGBAM)
