This clip is a section of a Cracks Podcast episode where Oso Trava and guest Adrián Villaseñor discuss AI "alucinaciones" (hallucinations). They open with an anecdote that Deloitte had to refund AUD/US$400,000 after 27 hallucinations were found in a paid report. Villaseñor defines hallucinations as AI outputs that invent plausible-sounding but false information, and emphasizes that without critical expertise these appear true. He recommends individual mitigation via deep prompt engineering (detailed context, explicit instructions) and enterprise mitigation via architectural controls such as Retrieval-Augmented Generation (RAG) to constrain answers to provided sources; he also mentions the rise of custom GPTs and interacting agents.
Questions this video answers
400,000 dollars
27
No sé si fue igual Deloitte salió un ayer Deloitte en Australia tiene que reembolsar una lana a un cliente porque encontraron 27 alucinaciones en el reporte por el que cobraron 400 mil dólares.
Deloitte le cobró 400 mil dólares al gobierno australiano para hacer un reporte de una secretaría de Estado de algo que estaban haciendo y usaron AI y había alucinaciones y temas que habían inventado, etcétera, etcétera.
¿Cómo limitas eso? ¿Cómo te blindas?
Es una extraordinaria pregunta y a mí siempre me gusta abordarlo desde las dos perspectivas, desde la perspectiva más individual y luego pues desde la perspectiva más de si quieres, de uso a nivel sistemático de una empresa. Desde la perspectiva individual, si tú estás utilizando estas herramientas de cajón, chat GPT, Gemini Cloud, Antropic Perplexity, cualquiera de estas va a alucinar, o sea, los modelos han ido avanzando y la capacidad de cómo han profundizado en el razonamiento avanzado, han ido avanzando cada vez para que.
No entiende qué es una alucinación.
Una alucinación es básicamente tú le preguntas algo, tú le pides algo, le preguntas algo a Cha GPT o a cualquiera de estas herramientas y siempre te va a responder algo, pero te inventó una burrada, pero que suena bastante verdadera, o sea, tú la lees y si no tienes, y aquí es donde entra la parte importante, tú la lees y si tú no tienes la experiencia o no ejerces el pensamiento crítico, esa alucinación te parece una verdad, y no voy a meter el tema de verdad porque siempre discuto mucho con los clientes de qué es verdad, es subjetivo. Pero regresando al tema de qué hacer para las alucinaciones, mucha gente piensa que el tema de prompts que todo mundo habla ya es un tema más básico, hablemos de cosas más sofisticadas. El tema de un prompt engineering muy profundo a nivel de uso personal sigue siendo pues la forma que tenemos, si tú estás utilizando chatgpt para realmente profundizar y reducir esas alucinaciones, que tengas una profundidad al máximo, nivel de detalle del contexto que le das, de las fuentes de información que le das, de las instrucciones que le das, del objetivo que le das, y ya si lo ves más a nivel empresa, ahí sí hay cosas más técnicas, el cómo tú puedes integrar información a través de algo que se llama RAG, que básicamente le estás limitando que solamente puede contestar bajo los límites de la información que tú le estás dand para que exactamente solamente pueda contestar con base en eso y si no, pues no contest, No conteste bien.
Eso habla de la calidad de la pregunta.
La calidad de la pregunta, si lo utilizamos en temas individuales, sí. Si lo utilizamos a nivel empresa, es tanto la calidad de la pregunta como la calidad de la arquitectura, como la calidad de la información. A nivel individual es la calidad de la pregunta y la calidad del contexto, porque el contexto también es adicional a pregunta. Contexto y pregunta.
Sí hoy empezamos con prompts, empezamos con prompts, digamos, anidados o subsecuentes. El resultado de un prompt se alimentaba al otro y así puedes llegar a cosas muy sofisticadas. Más recientemente, ya yo creo que hace un año, se crean estos custom GPT o los diferentes agentes que ya cualquiera de los modelos te permite crear. Estamos entrando a una era en la que estos agentes pueden empezar a interactuar unos con otros.
