Episodio 10. Explorando el poder de la IA Generativa en AWS

CompuCloud les da la bienvenida. Hablemos de tecnología en nube. ¿Preparados? Comenzamos.

Soy Diana del área comercial y el día de hoy nos acompaña la ingeniera Cecilia Rodríguez, que es la experta en AWS y ella pertenece al departamento de Servicios Profesionales aquí en compuclot. Y juntas vamos a explorar cómo el aumento de la potencia informática y la proliferación de datos ha transformado el aprendizaje automático, pasando de ser un sector secundario para convertirse en un diferenciador central para empresas y organizaciones de todos los sectores. Hoy discutiremos cómo AWS proporciona las herramientas necesarias para ser creativos, tal como lo menciona Brian Cursa, CTO de Toyota. Acompáñanos en esta fascinante conversación sobre la innovación y el futuro de la tecnología. Empecemos. Me gustaría mencionarles que Ceci acaba de acreditar un programa de Black Belt en enfocado en lo que es en contenedores. Y justo nos mencionaba en gran parte de este programa que está enrolado con la Inteligencia Artificial Generativa. Y me gustaría empezar con la siguiente Ceci, ¿Qué es y cómo funciona la Inteligencia Artificial Generativa?

Hola, qué tal Diana, Un gusto estar aquí contigo. Básicamente, la Inteligencia Artificial Generativa es el tipo de Inteligencia Artificial que nos permite la generación de nuevo contenido y de contenido tal cual personalizable. Este tipo de de Inteligencia Artificial se basa mucho en lo que son algoritmos avanzados, modelos de aprendizaje profundo y también este tipo de modelos suele llamarse como modelos fundacionales comúnmente. Y están diseñados para generar patrones en base a cierta cantidad de entradas, es decir, un servidor, bases de datos y en base a estas entradas generar lo que es un un nuevo contenido. Con este entrenamiento de datos, básicamente genera nuevo contenido, no idéntico, es muy similar. Por lo tanto, esta tecnología nos permite la generación de imágenes, texto, música, entre otros. Y pues como bien menciono, a base de estos patrones, de repetir varios patrones.

Sí, claro. Bueno, ahorita que mencionas la parte de la generación de contenido, una de las cosas que se me viene ahorita a la mente es la parte de la creación de música. Y creo que es un tema que ahorita ha salido a revolucionar y de hecho también trae conflicto con varios artistas de cómo puedes combinar a veces ciertos actores y ponerle la letra de otro artista y pues ya se mezcla totalmente un nuevo contenido y esto gracias a la Inteligencia Artificial Generativa. Ahora que lo mencionas, justo al comienzo de esta charla mencionaba la perspectiva que tenía Brian Cursa, sitio de Toyota, con respecto a la nube de AWS, justo por el caso de éxito donde utilizaron Amazon Bedrock, me parece. No sé si tú podrías platicarnos un poquito más respecto cómo Amazon Bedrock fue utilizado para el proyecto de Toyota.

Claro que sí, Diana. Justo aquí hago una mención sobre un comentario que hizo justo Brian Cursar, donde justo dice que es de vital importancia que se tenga acceso a los datos, digámoslo así, correctos en el momento adecuado. Aquí este proyecto básicamente se enfoca o lo realiza lo que es Toyota Connected, que básicamente es una sección de Toyota, de la empresa de Toyota, enfocada en lo que son los servicios y los datos. Básicamente esta sección o distribución de Toyota utiliza AWS para el procesamiento de todos estos petabytes de datos que son generados de distintos sensores, miles de sensores en distintos millones de veces vehículos. Todo esto para dar respuesta a una solicitud de un conductor en alguna emergencia. Y justo aquí hago mención de que el desafío era cómo procesar tanta cantidad de información en tiempo real. Entonces, sabiendo que cada segundo cuenta.

Bueno, de acuerdo ahorita con la información que nos comparte sobre lo que es la Inteligencia Artificial Generativa, que es muy importante, no sé, Ceci, ¿Tú cuáles consideras que son los servicios más relevantes de AWS en el ámbito de la Inteligencia Artificial Generativa?

Mira, si hablamos de servicios que yo considero que son más relevantes de la Inteligencia Artificial Generativa en AWS, haría mucho mención sobre Amazon Q. Y esto también lo distribuiría o lo dividiría en los dos segmentos que tiene, Amazon Q Business y Amazon Q Developer. El Amazon Q Business aprovecha todo lo que son los datos de las empresas y resuelve dudas que tengamos nosotros como usuario, incluso en la infraestructura de AWS nos proporciona justo recomendaciones. Y también te menciono de Amazon Q Developer, que básicamente está enfocado hacia los desarrolladores y que prácticamente nos permite aprovechar la Inteligencia Artificial Generativa, en este caso, preguntar recomendaciones sobre código para mejorar nuestras aplicaciones y nuestros desarrollos. También haría mención sobre el servicio de Amazon Bedrock. Este servicio básicamente nos permite utilizar modelos fundacionales, como mencionaba en la primera pregunta, justo pueden ser tanto modelos fundacionales muy simples como muy avanzados. Esto básicamente para aprovechar la rapidez que nos proporciona y justo mejorar nuestras aplicaciones. Aquí también me gustaría mencionar que Amazon Bedrock nos permite, o una de sus funcionalidades que considero realmente significativas, es que podemos convertir todo esto de manera privada para que nuestros datos prácticamente tengan las mejores prácticas de seguridad. Y también aquí podríamos incluir la parte de qué es serverless, que nosotros cuando trabajamos con Amazon Bedrock prácticamente no tenemos que preocuparnos por la infraestructura que hay por detrás. Y también ya mencionando estos dos servicios, también me gustaría mencionar mucho lo que es el servicio de codewhisperer, que ya se que es tal cual el generador de código y que también nos brinda muchas recomendaciones. Y esto viene desde cuáles problemas ven el código y cómo podemos mejorar nuestro código, segmentos de código en general para los desarrolladores.

Claro, ahora que lo mencionas, justo al inicio que yo estaba iniciando este podcast, mencionaba la perspectiva que tiene Brian Cursa de CTO de Toyota con respecto a la nube de AWS, justo por el caso de éxito donde utilizaron Amazon Bedrock. No sé si podrías platicarnos un poco más respecto con Amazon Bedrock, cómo fue utilizado y cuál fue el proyecto de Toyota.

Claro que sí, justo aquí podría hacer mención de algunas palabras que dijo Brian Cursar con respecto a que es vital tener acceso a datos correctos en el momento adecuado. Aquí te podría platicar un poco con respecto a lo que es Toyota Connected, que fue, digámoslo así, la división de Toyota que se encarga prácticamente de la administración y el control de datos de la empresa, justamente. Y esta misma división se encarga justamente y utiliza AWS para el procesamiento de todos estos petabytes de datos que son generados a través de miles de sensores en millones de vehículos. Y esto básicamente para ayudar a todos los conductores a dar respuesta a sus solicitudes en alguna emergencia, por ejemplo. Y justamente aquí el desafío era cómo procesar toda esta cantidad de datos en tiempo real, sabiendo que cada segundo cuenta.

Vaya, eso sí que realmente es de vital importancia porque todos tenemos el tiempo encima. Entonces, bueno, este caso de éxito realmente es súper interesante, pero igual me gustaría indagar un poquito más. No sé si conoces otros casos de éxito que nos puedas compartir.

Justo ahorita se me puede venir a la mente Smartsheet, la cual es una plataforma que nos proporciona gestión de proyectos. Básicamente esta plataforma utiliza AWS, y esto más que nada porque generó lo que es un chatbot, un chatbot para trabajar con Slack y utiliza, ya hablando aquí más enfocado a los servicios de AWS, Amazon Q Business para mejorar la atención al cliente.

Y ahora que lo mencionas, bueno, hablando desde mi propia experiencia, ahorita que dices de los chatbots, justo me tocó interactuar con una inteligencia Artificial generativa y en este caso fue en la planeación de un viaje, y en este caso pues yo tenía algunas dudas sobre el viaje, entonces en ese caso estuve interactuando con un chatbot y realmente las respuestas fueron inmediatas y fue como si estuviese otra persona del otro lado, porque con la forma como lo dice y como te explica las cosas, para mí fue de vital importancia y realmente no me quedé con ninguna duda y solucionó lo que yo estaba buscando. Creo que tenías ahí otros dos casos de éxito.

Bueno, justamente podría mencionarte DoorDash, básicamente en su centro de datos, en su centro de contacto, aquí utiliza lo que es Connect, que es un servicio de AWS, pero también lo integra con Amazon Bedrock, esto básicamente para agilizar la respuesta a sus cientos de usuarios que acceden a esta plataforma de entrega de comida a domicilio. Entonces se me viene a la mente justo ese caso de éxito.

¿Y exactamente cómo es que se beneficia el usuario final utilizando la inteligencia artificial que acabas de mencionar?

Pues justamente supongo, bueno no supongo, básicamente en el tiempo de respuesta de la plataforma, agiliza este tiempo, este proceso de dar atención al cliente. Justamente si utilizan Connect, que es un servicio que es tal cual para centro de llamadas, un ejemplo, también ahí pueden integrar otros servicios de AWS, de inteligencia artificial, no solo generativa, sino inteligencia artificial, aquí podemos incluir servicios para saber el comportamiento del usuario en general. Entonces aquí el usuario básicamente se beneficia con la obtención de una respuesta más rápida y ágil.

Es interesante estos casos de éxito que ya mencionas, y no simplemente en el mundo están pasando casos de éxito, sino también aquí en CompuCloud, y es a dónde va mi siguiente pregunta, ¿Cómo se está implementando la inteligencia artificial generativa en CompuCloud?

Tenemos algunos casos de éxito en los que hemos estado trabajando, específicamente en Business Intelligence, un BI tal cual con Amazon QuickSight específicamente también utilizando Amazon Q, y básicamente todos los ingenieros de la parte técnica aquí en combucloud nos seguimos capacitando, haciendo mucha práctica tanto para casos reales como tanto para casos ficticios, para ver todas las avanzadas funcionalidades que tienen estos servicios, no sólo de inteligencia artificial generativa, sino también de inteligencia en general, Inteligencia artificial en general. Aquí te podría mencionar algunos servicios tal cual nosotros estamos trabajando, por ejemplo SageMaker, CodeWhisperer, como bien mencionada, Amazon Q y como te mencionaba también servicios para la parte de analítica de datos que se integren con esta parte de inteligencia artificial generativa. De inteligencia artificial te podría mencionar como Transcript, que justamente tenemos dos proyectos por ahí abiertos. Y justo por terminar justamente te podría mencionar otro servicio como TechStrack, Recognition, servicios que hemos estado trabajando.

Excelente. Sí, porque realmente AWS abarca muchísimos servicios, entonces no me quiero imaginar que en la parte de inteligencia artificial también tiene su enfoque en cada uno en específico. Igual aquí me gustaría hacer como un breve paréntesis ya que estamos hablando sobre inteligencia artificial generativa y nada más como para dejar en claro cuál es esta diferencia que hay entre inteligencia artificial y lo que es inteligencia artificial generativa.

Bueno Diana, aquí pues entraría en la parte del contexto de que inteligencia artificial generativa como bien te menciono es una parte de todo lo que abarca inteligencia artificial y la inteligencia artificial generativa yo diría que la palabra clave podría ser aprendizaje, básicamente la inteligencia artificial generativa hace un aprendizaje de datos de entrada, como te menciono, hace un entrenamiento de estos datos para generar nuevo contenido, entonces considero que ahí se ve claramente la diferencia. Por ejemplo te podría mencionar que en cuanto a inteligencia artificial en general hay servicios que tienen un algoritmo específico y una funcionalidad en específico, no sé por ejemplo la parte de Textract o por ejemplo de Translate, su funcionalidad, traducir Textract mediante speech, escríbelo en general, transcribe, o bien por ejemplo en cuanto a servicios de inteligencia artificial en general te podría decir que estamos trabajando tanto con Textract, Amazon, Lex, también hemos integrado otros servicios, por ejemplo Recognition, hemos estado haciendo muchos casos con Recognition, básicamente también aplicando seguridad en ello.

Claro, creo que ya has ido profundizando en todos estos temas, pero igual me gustaría volver lanzar la pregunta y pues ¿Cuáles son las principales ventajas de utilizar estos servicios que acabas de mencionar también a ti, ¿Cómo te ha ayudado a ti como Cecilia, ingeniera aquí en CompuCloud a implementar estos servicios o igual también en tu día a día haciendo nuevos proyectos?

Básicamente en cuanto a las ventajas o a lo que me ha apoyado tal cual la inteligencia artificial generativa y nos apoya a todos los usuarios que la utilizamos, es básicamente generar el contenido, básicamente agilizar también los tiempos de respuesta. También podemos aquí explicar un poquito con respecto a cómo antes los procesos duraban un largo periodo en realizarse ciertas actividades. Ahorita es demasiado ágil, como estamos hablando en tiempos segundos, tiempo real, realizar alguna actividad que a lo mejor antes nos costaba más. También el tema de seguridad es muy importante y es algo que realmente influye mucho en cuanto a este tipo de tema que estamos hablando, estos servicios de AWS y la integración con otros servicios. Básicamente aquí te podría decir estos beneficios.

Excelente, Ceci. Igual. Bueno, también creo que hay una parte importante que es la parte de la seguridad. Hacia allá voy. Me gustaría preguntarte ¿Cómo garantiza AWS la seguridad y la privacidad de los datos utilizando el modelo de Inteligencia Artificial generativa?

Mira, aquí podemos entrar a varias fases. Por ejemplo, tanto la fase de creación, donde nosotros básicamente nos encargamos de encriptar los datos que se van a estar procesando, toda esta parte de encriptación en reposo, en tránsito, cuando se están mandando desde que el usuario ingresa sus datos hasta hasta que llegan al origen, a la base de datos origen. También podríamos hablar de temas de estándares de seguridad que nos apoya AWS, Básicamente ISO, te pondré un ejemplo de ISO PCI también es uno de los estándares con los que nos puede ayudar y colaborar. Básicamente aquí también podemos hablar sobre seguridad, pero ya más enfocada hacia el usuario, utilizando distintos servicios.

Claro, y de hecho quería comentarte eso, ¿Cómo se ve beneficiada la empresa con todo esto que nos dices de la parte de la seguridad? Y no solamente la empresa, sino también el usuario final, porque nosotros también somos usuarios finales, utilizamos inteligencia artificial. Entonces, ¿Cómo se ve reflejado ese beneficio?

Pues mira, Diana, justamente ahorita que mencionas esto, las empresas que son tal cual las que generan su aplicación y todo esto, se ven beneficiadas en que ellos pueden utilizar una finalidad, digámoslo así, un montón de servicios que tienen distintas funcionalidades y que básicamente nos permiten desde la restricción de contenido, justamente ahorita se me viene a la mente esta parte de que, por ejemplo, no quieren tener contenido inapropiado para los niños en sus aplicativos, por ejemplo, el tema de recognition, de que podemos restringir ese tipo de contenido y desde ahí también se ve beneficiado el usuario final, como mencionas, la agilidad de tiempo en este caso también es algo que nos beneficia muchísimo en cuanto a estos servicios. Básicamente dar respuesta a cientos de datos, cuando se están procesando cientos de datos, dar respuesta en tiempo real. Entonces, básicamente en cuanto a seguridad, incluiría esta parte de restricción, por ejemplo, de accesos y también privacidad de los datos de los usuarios. Justamente es algo que se ve muy y que se tiene mucho y que se toma mucho en cuenta en AWS.

Claro, y es importante. A todo esto me viene también a la mente un ejemplo que realmente todos los usuarios tenemos, es la aplicación de Tik Tok que utilizamos, donde se reproducen cientos de vídeos y que hasta los que son creadores de contenido a veces deben de tener cuidado con lo que hablan o lo que están mostrando, porque ya existe una Inteligencia Artificial generativa que está cuidando exactamente qué es lo que se dice. Entonces creo que sí ha venido a beneficiarnos a muchos y bueno, también apoyarnos en esta parte de lo que es la seguridad que es importante para todos. Y bueno, también ya para ir finalizando, me gustaría saber cuál es tu, como tu conclusión o cuál es el futuro que le espera a las empresas utilizando esta Inteligencia Artificial Generativa.

Bueno, considero que la Inteligencia Artificial Generativa abrirá fronteras, básicamente es un salto gigante en la tecnología y pues prácticamente nos permite toda esta parte de contenido y todo el procesamiento de estos de datos. Entre los beneficios y justamente que mencionas, ¿Cómo se beneficiarán las empresas justamente con esta inteligencia artificial? Básicamente considero que el procesamiento de los datos, la eficacia operativa, justamente como mencionamos, la agilización de procesos, tendencias, justamente podrían ayudarnos para mejorar toda esta parte de tendencias.

Sí, y es importante, es algo que venía mencionando al inicio, que esto de la Inteligencia artificial va a llegar a ser un diferenciador entre las empresas, porque los que no la vayan utilizando se van a ir desplazando y se van a quedar como los iPhone, ahorita ya creo que vamos en el iPhone 16 y los que apenas van comprando el 11, entonces pues nos vamos atrasando. Y bueno, ya por último, para finalizar, ya sería mi última pregunta, te lo juro Ceci. ¿Cómo pueden las empresas y los desarrolladores de las empresas comenzar a implementar la inteligencia generativa en sus proyectos?

Justamente para dar respuesta a esta pregunta, yo sí recomiendo mucho acercarse a un partner como compucload, quien los oriente, básicamente cheque cuál cuál es la situación del cliente, cuál es el proyecto, cuáles son los servicios que se adecúan perfectamente a la necesidad del cliente y básicamente también más que nada porque nosotros como técnicos y que estamos constantemente aprendiendo, sabemos aprovechar estas tecnologías. Entonces sí recomiendo mucho el apoyo de esa manita que te va jalando hacia dónde debes de ir, cuál es el camino que que mejor se adapte. Pero básicamente algo que tú mencionabas también al inicio es de que AWS nos permite ser totalmente creativos. Entonces no hay un solo camino para llegar al objetivo. Existen distintas formas si nos vamos, digámoslo así, por la forma económica, pero que esté segura o literal que cumpla todas las funcionalidades con las que quiere el cliente que cumpla el aplicativo. Entonces, básicamente mi recomendación es acercarse con un partner como compucload.

Claro. Y en este caso, pues puedo decir que un caso eres tú que estás tomando una certificación y claramente te estás capacitando en lo que es la parte de la inteligencia artificial y eso nos ayuda a nosotros a CompuCloud, a nuestros clientes a innovar y dar los siguientes pasos para estar en la tendencia tecnológica y bueno, más que tendencia, ahora sí disfrutar de todos los beneficios que este boom trae para todos. Igual, en conclusión, ya para cerrar, agradecerles el tiempo que pasa. Y bueno, ya para cerrar, me gustaría dar como cierre este podcast. Muchas gracias por acompañarnos. Esperamos tenerlos nuevamente por aquí para traerles nuevo contenido e información sobre tecnología en la nube.

Muchas gracias por escuchar este episodio de Hablemos de Tecnología en Nube. Contáctanos al o como CompuCloud en redes sociales. Hasta la próxima.