Por. Grecia Navarro
Han pasado casi cuatro años desde la llegada de ChatGPT, la verdad es que nos costó poco tiempo para integrarlo a nuestra vida cotidiana, tenemos una gran herramienta que apoya en cualquier ámbito profesional así como en toma de decisiones, desde ir a una cita médica, comprar el súper, preguntarle sobre tu estado de ánimo, o si es mejor A o B, todo esto al alcance de un click. En el presente existen más plataformas de estos modelos de lenguaje de gran escala conocidos por sus siglas en inglés como LLM (Large Language Model), pero el riesgo principal que pocos detectamos es la veracidad de la respuesta que nos comparte.
Estas herramientas están diseñadas para siempre darte una respuesta que predicen por ser la más probable a partir del prompt (la instrucción que haces en el chat). En ocasiones la respuesta es inventada a esto se le llama alucinaciones de la inteligencia artificial, a simple vista parece verídica la información que nos da, sin embargo puede no citar fuentes, en caso de citarlas no existe el autor, ni la obra, también inventar fechas, links, datos estadísticos, instituciones gubernamentales, trámites, cargos, citar legislaciones de otro país, o leyes derogadas, recomendar un medicamento o dosis incorrecta, etc.
Parte de ello, se debe a que los LLM fueron entrenados con un gran volumen de información proveniente de diferentes fuentes entre ellas internet, recordemos que en la red también existe mucha desinformación, nuestro error es confiar plenamente en la respuesta que nos comparte, los chats de inteligencia artificial hacen que las personas confundan cercanía con veracidad, ya que están diseñadas a conducirse de forma “amable” y “empática”. La realidad es que no es inteligente y tampoco tiene sentimientos.
Las señales de alerta para detectar una alucinación en la respuesta es cuando son demasiado fluidas, completas y seguras, un tip para evitar las alucinaciones es nunca asumir, siempre hay que verificar las fuentes. En el ejercicio de la abogacía es muy común decir que la IA agéntica es como un pasante o practicante que está aprendiendo a hacer su trabajo por lo que siempre tenemos que supervisar todo debido a que un mínimo error puede costar la credibilidad profesional, un caso perdido o incluso una responsabilidad legal, ¿ahora imagínate las consecuencias en el sector salud?.
A modo de conclusión, los LLM se encuentran en una etapa de desarrollo continuo, las alucinaciones son el presente, es probable que en el futuro los márgenes de error se reduzcan, mientras ese momento llega, recomiendo optar por el uso de una IA especializada en su sector pues estará entrenada con información de calidad y esto puede reducir la probabilidad de alucinación, eso sí… la regla de oro es siempre corroborar la respuesta.
Grecia Navarro
Abogada especializada en lo Digital
www.clickandlaw.com
@click.and.law
