Deep Research But Free

Bueno, mientras todas las empresas intentan averiguar cómo monetizar la IA, Google ofrece cada vez más funciones premium gratuitas. Hoy han anunciado varias funciones nuevas que llegarán a Gemini, y una de ellas es la Investigación Profunda, que ahora estará disponible para todo el mundo de forma gratuita. Antes formaba parte del paquete avanzado de Gemini, que cuesta unos 20 dólares al mes, pero ahora puedes empezar a utilizarla con una cuenta gratuita, al igual que AI Studio. También han anunciado varias integraciones diferentes dentro de Google Apps y Gemini. Y ahora incluso ginz, que es una versión de GPT de Google, también está disponible para todo el mundo de forma gratuita, aunque no sé si alguien las utilizará realmente, al igual que las GPT de OpenAI. En este video quiero centrarme específicamente en la Investigación Profunda, que ahora funciona con Gemini 2.0 Flash Thinking experimental, y vamos a compararla directamente con la investigación profunda de OpenAI. Personalmente, creo que, independientemente de quién lo ofrezca, la Investigación Profunda es probablemente una de las mejores aplicaciones de la IA generativa y la RAG en las empresas. Pero antes de eso, echemos un vistazo a algunas de estas nuevas funciones de Gemini. Si intentas elegir los modelos, ahora verás 2.0 Flash Thinking Experimental. Ese es el nuevo modelo. También verás Deep Research. Está disponible para usuarios gratuitos. Obtienes solo 5 informes de investigación al mes, lo que podría parecer una cantidad bastante pequeña, lo cual es cierto, pero si eres un usuario de cuenta pagada plus en OpenAI, solo obtienes 10 generaciones de informes de Investigación Profunda al mes. Ahora bien, también existe la opción de personalización. Por lo tanto, Gemini recordará cosas sobre ti. Y al igual que las GPT, también puedes crear tus propias gemas. Ahora bien, esta es básicamente la versión de Google de las GPT. Y también hay algunas GPT creadas previamente que puedes empezar a usar de inmediato. Ahora bien, para acceder a la Investigación Profunda de Gemini, solo tienes que hacer clic en Investigación Profunda cuando envíes una consulta. Bueno, ya creé un informe con esto. Le pedí que creara un informe detallado sobre el estado del arte en generación aumentada de recuperación o raíz más importantes de un sistema de rack listo para la empresa, e hice exactamente lo mismo con la Investigación Profunda también. Ahora bien, la experiencia en ambos casos es muy diferente. De hecho, OpenAI te hace algunas preguntas de seguimiento que le ayudan a refinar su plan de investigación. El de Gemini es un poco diferente. Elabora un plan de investigación basado en tu consulta y luego puedes iniciar la búsqueda de inmediato o puedes pedirle que edite el plan. Ahora bien, si quieres editar el plan, simplemente debes proporcionar cambios en este plan. En mi caso, solo dije que me parecía bien y luego dije que estaba bien. Voy a iniciar la investigación y Después de unos 20 o 25 minutos, completó la investigación. La investigación profunda de Gemini también te muestra el proceso de pensamiento interno. Entonces, esto es lo que surgió al comprender primero los avances de rayos, luego explorar áreas clave y, en función de esto, determinar cuáles serán las siguientes etapas. En cada etapa, también enumera todos los recursos que está utilizando. Entonces, primero examinó estos recursos y luego comenzó a inspeccionar el panorama. ¿Cuáles son los componentes arquitectónicos clave? Vamos a ver el informe detallado que generó. Pero parece que en cada etapa, en función de la información que ha recopilado hasta ahora, modifica su plan y continúa con la investigación. En total, creo que utilizó alrededor de 126 sitios web o referencias diferentes y me gusta mucho su implementación porque te muestra qué recursos está utilizando cuando realiza la investigación. OpenAI también tiene una implementación muy similar, aunque la cadena de pensamiento no es tan detallada como la de Google, pero esencialmente comienza con la solicitud del usuario y elabora un plan, realiza una investigación y luego, en función de eso, continúa mejorando su investigación y agregando más y más información. En este caso, se utilizaron fuentes. En cuanto a la calidad de las fuentes, diría que ambos utilizan fuentes muy similares. También he visto artículos de Wikipedia sobre Medium en los resultados de Gemini. Aquí puedes ver fuentes muy similares que utiliza Gemini. Ahora bien, Gemini utiliza muchas más fuentes o sitios web y algunos de ellos se centran específicamente en proveedores de soluciones como LLAMA Index. Tienen un trabajo muy bueno en la creación de canalizaciones de racks. Pero veamos el informe real. En general, la investigación profunda abierta te proporcionará mejores informes. Ahora bien, tener más contenido y resultados bien estructurados no significa mejor calidad. Pero como tengo algunos conocimientos sobre la generación aumentada de recuperación, pensé que sería un tema interesante y compararía los resultados de ambos modelos. Gemini empieza por explicar por qué necesitamos racks debido a las limitaciones existentes de LLM. Luego, el siguiente paso es analizar los aspectos fundamentales de la arquitectura y el flujo de trabajo de racks. Por ejemplo, hay hay componentes básicos para la consulta del usuario. Luego, en función de eso, realizamos la recuperación, extraemos la información de un almacén de vectores, la colocamos como parte del prompt y luego la usamos para generar respuestas mediante NLM. Por lo tanto, los aspectos básicos se cubren bastante bien aquí. Ahora también habla sobre la importancia de la ingeniería de prompts y el ajuste fino. Por lo tanto, dice que si bien el RAG ofrece beneficios significativos, es importante comprender su relación con otras técnicas de integración de conocimientos, como la ingeniería de prompts y el ajuste fino. Y luego describe qué es exactamente la ingeniería de prompts, cómo el ajuste fino y técnicas similares pueden ayudar en la recuperación de información, y la mayor parte de esto es preciso. Por lo tanto, creo que es un informe muy bien estructurado hasta ahora. Luego habla sobre la evolución de los avances y paradigmas clave del RAG. Inicialmente teníamos un sistema RAG estándar que solo tenía esos cuatro componentes, pero luego hay algunas deficiencias. Por ejemplo, el RAG normal sufre de baja precisión y dificultades de recuperación y recuperación para gestionar consultas complejas y matizadas y desafíos para gestionar una ventana de contexto de LLM con documentos recuperados potencialmente largos. Esto solía ser un gran problema porque la versión inicial de LLM tenía una ventana de contexto bastante pequeña. Luego comienza a hablar sobre técnicas avanzadas de rack, incluidas estrategias como la búsqueda híbrida. Ahora bien, si te interesa obtener más información sobre rack avanzado, asegúrate de consultar mi curso titulado Rack más allá de lo básico. Abarca muchas de estas técnicas que se mencionan aquí. Aquí habla sobre la optimización en la etapa previa a la recuperación, la recuperación y la recuperación posterior. Hasta ahora, creo que está bastante bien organizado y tiene muchos detalles. Vale. Luego habla sobre técnicas de RAC basadas en gráficos o la integración de gráficos de conocimiento con RAG. También tiene información sobre algunas de las técnicas más avanzadas, como Self RAG, RAG correctivo, e incluso habla sobre incrustaciones de documentos hipotéticos. Esta es otra técnica que te dará un aumento del rendimiento en la precisión de la recuperación. Luego creo que entra en más detalle sobre el propio recuperador, los diferentes componentes del mismo y también habla sobre enfoques híbridos. Por ejemplo, puedes combinar incrustaciones densas con técnicas de incrustación dispersa. Las técnicas de atributos dispersos como BM y DF, han demostrado resultados bastante buenos en lo que respecta a cuestionarios de núcleo denso de palabra clave y pueden ser extremadamente útiles. También habla sobre otras estrategias, por ejemplo, palabras Pequeñas, Navegables, Jerárquicas o HNSW. Creo que cubre muy bien todas las técnicas que encontrarás si buscas crear una canalización de racks. En su mayor parte, analiza las técnicas de recuperación. Después, comienza a hablar sobre la función del generador, que es básicamente tu LLM. Y debes asegurarte de que el LLM tenga suficiente contexto en términos de los fragmentos o documentos que recupera el recuperador. Por lo tanto, analiza diferentes técnicas que puedes utilizar para mejorar la parte de generación, incluido el ajuste de tu modelo de lenguaje para RAG. Ahora bien, existen proveedores de LM como KO que ajustan específicamente los LLM para hacer RAG. Y si buscas un sistema de recuperación a nivel empresarial, coair es un proveedor realmente bueno. ¿Vale? Luego empieza a hablar sobre la mejora del rendimiento del rack, las estrategias de aumento y el ajuste fino. Por lo tanto, tiene una lista bastante buena de cosas que puedes hacer potencialmente para mejorar tu sistema de rack. Y ha elaborado esta bonita tabla que habla sobre un rack simple, cuáles son las características clave, los casos de uso, cuáles son las ventajas y cuáles son las concentraciones que necesitas hacer. Luego, un rack simple con memoria, un rack de bifurcación. Esto es básicamente enrutamiento e ocultación, rack adaptativo, rack correctivo, autoradio, rack agentic, ¿Verdad? Por lo tanto, las diferentes técnicas de rack con las que te vas a encontrar se enumeran aquí. Y hay una tabla comparativa bastante buena que está bastante bien. Ahora, le pedí que me dijera cuáles son los diferentes componentes de un sistema de rack listo para la empresa. Aquí habla sobre escalabilidad, seguridad, gobernanza de datos, integración de infraestructura, y nos dio una tabla bastante detallada que habla sobre estas áreas de consideración. Luego proporcionó un tratamiento detallado de cada uno de estos temas. Esto es bastante útil. Y también reúne evaluaciones de métricas del sistema de racks, puntos de referencia y mejores prácticas. Esta es una de las áreas clave a las que mucha gente no presta atención. Necesitas tener puntos de referencia internos para evaluar tus sistemas de racks. Porque si haces cambios en tu canalización de racks, digamos que cambias el modelo de incrustación por otro modelo de incrustación, o cambias tu estrategia de fragmentación, necesitas tener un mecanismo para medir qué tipo de impacto tiene este cambio en tu sistema de racks. En general, la gente solo mira algunos ejemplos y si los resultados les parecen bien, los aceptan. Pero esa es una receta para el desastre. Si no puedes medir algo, no puedes mejorarlo. Ahora, al final, también habla de tendencias emergentes y el futuro de las aplicaciones empresariales de RAG. Habla de RAG en tiempo real, que permite a los sistemas de IA recuperar dinámicamente la información más relevante mediante la integración de fuentes de datos que serán cada vez más importantes para aplicaciones que requieren precisión actualizada al minuto, como analistas financieros y monitoreo de noticias. Ahora, veamos si realmente habla de privacidad y descentralización. Sí, la privacidad es una gran preocupación cuando se trata de sistemas de racks empresariales. La mayoría de las grandes empresas no están listas para compartir sus datos con proveedores de API externos. Por lo tanto, según mi experiencia, la mayoría de las empresas realmente desean mantener su sistema de racks privado y seguro y utilizar modelos de ponderación abiertos. Bien, diría que el informe generado por la investigación profunda de Gemini es un muy buen comienzo. Es muy detallado, habla de todas las cosas correctas y creo que incluso los detalles proporcionados son suficientes para brindar una muy buena descripción general del campo en sí. Bien, ahora veamos cómo se compara el informe generado por OpenAI con el generado por Gemini. Como dije, la experiencia es un poco diferente porque te hace estas preguntas aclaratorias que son extremadamente útiles porque le dan al modelo o al sistema detrás de la investigación profunda un alcance mucho mejor de lo que el usuario está buscando. Por lo tanto, proporcioné respuestas muy cortas. Por ejemplo, cuando preguntó si tenía alguna industria específica en mente, dije que se mantuviera en general y que también se necesitaran observar los avances teóricos y las aplicaciones prácticas. Ahora mismo, basándose en eso, se elaboró un plan y este es el resultado. Habla sobre qué es Rack y por qué se creó Ragnarok. Es muy similar en términos de la introducción que tenía Gemini, pero tiene muchos más antecedentes, especialmente porque cita el documento de investigación que dio inicio a todo esto de los sistemas RAG. Es un detalle bastante bueno. Después de eso, habla sobre los componentes principales de un sistema RAG listo para la empresa, que incluye la recuperación de documentos y el mecanismo de indexación, básicamente, cómo se procesa el documento, que será el componente de preprocesamiento, y cómo se crea la indexación semántica, calculando las incrustaciones y colocándolas en almacenes de vectores. Luego habla sobre las incrustaciones y menciona todas las diferentes tecnologías. Habla sobre diferentes soluciones para almacenes. Gemini también proporcionó exactamente la misma información. Habla sobre diferentes técnicas de indexación. Gemini también tenía la misma información en su informe. Luego habla sobre modelos de lenguaje y generación. Básicamente, esta es la segunda parte de la canalización de racks, que se basa en la consulta del usuario y la recuperación de documentos. Necesita un LLM para generar las respuestas. Por lo tanto, los aspectos básicos están muy bien cubiertos. Luego habla sobre técnicas de optimización resistentes para la eficiencia y la latencia. Esto es bueno. La latencia es un componente fundamental si está construyendo un sistema de racks listo para la empresa. También está analizando sistemas híbridos o de varias etapas. Por ejemplo, puede combinar la búsqueda basada en incrustaciones con la búsqueda basada en palabras clave como BM. También habló sobre la estrategia de almacenamiento en caché, que, de nuevo, es muy fundamental y puede ser extremadamente útil para la latencia en cualquier sistema de rendimiento. Parece que Gemini la investigación profunda de OpenAI se centra específicamente en las empresas porque tiene la seguridad y el cumplimiento en la cima. Y eso incluye control de acceso, anonimización de datos y eliminación de cualquier información de identificación personal cómo cifra su almacenamiento, ¿Verdad? Aquí se mencionan diferentes técnicas. Luego se abordan las estrategias de escalabilidad y mantenimiento, que incluyen índices y actualizaciones escalables, supervisión del rendimiento y ajuste claro. Todas las cosas que necesitas y en un sistema de rack empresarial se mencionan aquí. Gemini tenía exactamente la misma información, así que ambos proporcionan información similar. Ahora bien, tiene una sección sobre marcos de código abierto y propietarios. Creo que esta es una de las preguntas que planteaba. Por lo tanto, aquí se mencionan algunos de los marcos de código abierto para crear sistemas de rack. Luego habla de soluciones de rack propias que incluyen algo como la búsqueda de iAvortex de Google e incluso Azure tiene esta capacidad de Azure Cognito Search. Y también menciona la pila de rack de COER. Por lo tanto, creo que esto está más actualizado en lo que respecta a la comparación de diferentes proveedores de API o proveedores de RAG. La siguiente sección son los puntos de referencia de rendimiento y eficiencia. Entonces, ¿Cómo te aseguras de que tu implementación de rack sea eficaz? Y cómo te aseguras de que haya puntos de referencia para evaluarla, ¿Verdad? Bueno, algo que vimos con Gemini, pero creo que esto tiene muchos más detalles y ahora se centra específicamente en las empresas. Otro componente fundamental que menciona la investigación exhaustiva de OpenAI son las capacidades de integración con los sistemas empresariales. Las empresas suelen ser muy reticentes a incorporar soluciones completamente nuevas a menos que puedan integrarlas con su configuración o sistemas existentes. Por eso creo que este es un criterio clave para muchas empresas, porque no quieren tener una infraestructura nueva. Quieren poder conectarse simplemente con sus sistemas existentes. Por eso es otro criterio muy importante y me alegra mucho que la investigación exhaustiva de OpenAI lo haya detectado e incluso haya incluido casos casos prácticos de adopción empresarial. Y estos son casos prácticos reales. Por ejemplo, en el caso de los servicios financieros, habla del ámbito jurídico de Morgan Stanley, Hari AI es un gran nombre en el sector jurídico, o de los sistemas de Rack Telecom es otra empresa de chatbots. Por tanto, los casos de uso o los casos prácticos que se presentan son reales y realmente aportan mucho valor. Vale, a continuación tiene una sección sobre los retos de la implementación y las mejores prácticas. Así que para gestionar las alucinaciones y la desinformación, ¿Cuáles son las mejores prácticas? Una de las mejores prácticas de las que habla es la ingeniería rápida. Por ejemplo, puedes indicarle al LM que responda únicamente con información del contexto proporcionado. Si la respuesta no está en el contexto, por ejemplo, que no lo sabes, por lo general esto no funciona. Si estás creando un sistema de bastidores, tu solicitud debe ser mucho más detallada. Normalmente quieres incluir algunos ejemplos cortos, lo cual es bastante importante. Pero luego habla sobre el ajuste fino de los mecanismos de recuperación. Y en ese caso quieres ajustar tu modelo de incrustación. Ahora bien, es más fácil decirlo que hacerlo. Muchas veces las personas no tienen los datos para ajustar realmente los modelos de incrustación porque necesitan los datos en un formato muy específico. Y la velocidad de inferencia es muy importante. Y en realidad tiene algunas estrategias. Por ejemplo, asegúrate de que el índice del vector esté optimizado para una búsqueda rápida. Usa un método aproximado como HNSSW, ¿Cierto? Eso te dará una mejor latencia. Si buscas una búsqueda exacta, eso llevará mucho más tiempo. Entonces también puedes agregar paralelismo. Por lo tanto, haz la generación de recuperación de forma secuencial. Pero también puedes paralelizar ciertas partes. Por ejemplo, si utilizas la recuperación en dos pasos, puedes ejecutarlas en paralelo en lugar de secuencialmente. A continuación, solicita la optimización. Optimización del modelo de optimización, especialmente en función de tu aplicación. Puedes considerar utilizar un modelo más pequeño en lugar de modelos enormes como GPD 40, o puedes dedicar más tiempo a asegurarte de que tienes una infraestructura bien optimizada. Este es otro componente clave que muchas personas o empresas ignoran. A continuación, habla sobre garantizar la fiabilidad y la solidez. Y al final, añade una sección sobre el análisis técnico del sistema de racks. Cuáles son los diferentes componentes de una canalización de procesamiento de preguntas o consultas, Recuperación de documentos, preparación del contexto, generación por parte del LLM y, a continuación, posprocesamiento. El informe generado por Gemini tenía todos estos componentes en la parte superior, pero aquí Deep Research decidió poner todo al final. Ahora también habla sobre los avances en la incrustación de modelos y algoritmos de búsqueda. Específicamente, empezamos con VERB o sentenceverd. Luego están los recuperadores de pasajes densos. Esta es otra técnica que se propuso. Ahora tenemos incrustaciones dependientes de consultas contextuales. Por lo tanto, cubre la mayoría de las técnicas avanzadas con bastante detalle. Aquí, de nuevo, también habla de búsqueda híbrida. Por lo tanto, recuperación densa. Más palabras clave. Veamos las tendencias emergentes en direcciones futuras. Por lo tanto, RAC diferenciable de extremo a extremo. Los investigadores exploran la capacitación de LLM y recuperadores juntos de manera integral para que la recuperación se optimice directamente para el rendimiento de tareas posteriores. Esto incluye modelos como real. En realidad nunca había oído hablar de esto, pero parece ser una técnica relativamente antigua. Luego, el aumento de la memoria y el aprendizaje continuo. Esto también es algo que realmente no había visto antes. Por lo tanto, probablemente deba analizar este rack multimodal. De hecho, tengo el Local GPT Vision, que es un proyecto que te permitirá realizar rack multimodelo de extremo a extremo con modelos de lenguaje visionar. Así que échale un vistazo. Ahora, ventanas de contexto más grandes y uso de herramientas de recuperación y explicabilidad de agentes y que preserva la privacidad. Cierto, El informe generado por Deep Research de OpenAI es mucho más detallado, no solo por la cantidad de texto, sino también por la densidad de información. Vale, ¿Cuáles son mis reflexiones finales? Bueno, Diría que en general, Deep Research de Gemini te da una buena idea de lo que puede hacer un sistema de este tipo y si proporcionas muchos más detalles en términos de consulta, probablemente pueda generar informes más detallados. Pero para este caso de uso específico o este caso práctico específico, el informe generado por Deep Research de OpenAI tiene mucho más contenido, Es mucho más detallado y los detalles son mucho más útiles. Pero estás pagando 20 dólares al mes por esto y obtienes los de Google gratis. En fin, esta fue una rápida comparación. Voy a ver algunas de las otras funciones que ofrece Google, así que si te interesa, asegúrate de suscribirte al canal. En fin, espero que este vídeo te haya resultado útil. Gracias por ver y como siempre, nos vemos en la próxima.