AI Engineering Building Applications Audiobook

Audiolibro de Ingeniería de IA: Creación de aplicaciones

AI Engineering: Building Applications with Foundation Models — Audiolibro completo de Chip Huyen

¿Cómo convertir las impresionantes capacidades de la inteligencia artificial en aplicaciones que las personas realmente puedan usar? En AI Engineering: Building Applications with Foundation Models, Chip Huyen examina las decisiones, técnicas y concesiones que implican la creación de software en torno a modelos de IA existentes.

 

Historia de los modelos de lenguaje: (3:09 - 3:32) ¿Qué es un modelo de lenguaje? (Base estadística): (3:33 - 5:06) Tokens y vocabulario: (5:07 - 7:51) Modelos autorregresivos e IA generativa: (7:52 - 10:11) Autoaprendizaje supervisado y escalado: (10:12 - 18:10) Modelos fundacionales (LM + multimodales): (18:11 - 27:03) Casos de uso comunes de los modelos fundacionales: (27:04 - 52:01) Planificación de aplicaciones de IA y métricas: (52:02 - 1:01:58) El stack de ingeniería de IA: (1:01:59 - 1:10:43) Curación de datos de entrenamiento (Common Crawl y calidad): (1:10:44 - 1:14:32) Modelos específicos de dominio: (1:14:33 - 1:32:09) Ajuste fino supervisado (SFT): (1:32:10 - 1:51:06) Desafíos en la evaluación de modelos fundacionales: (1:51:07 - 1:59:53) Evaluación exacta (corrección funcional y similitud): (1:59:54 - 2:03:51) Embeddings y la IA como juez: (2:03:52 - 2:15:19) Marco de evaluación (capacidades y métricas): (2:15:20 - 2:31:57) Proceso de evaluación de tareas abiertas: (2:31:58 - 2:37:02) Introducción a la ingeniería de prompts: (2:37:03 - 2:43:21) Ingeniería de prompts defensiva (jailbreaking/inyección): (2:43:22 - 2:49:42) Procesamiento de datos para el ajuste fino: (2:49:43 - 3:37:55) APIs de inferencia y métricas de rendimiento (latencia/rendimiento): (3:37:56 - 3:40:29) Técnicas de optimización de inferencia: (3:40:30 - 3:47:07) Caché exacta y semántica: (3:47:08 - 3:47:41) Patrones agénticos (bucles/acciones): (3:47:42 - 3:49:42) Monitoreo, observabilidad y datos de retroalimentación: (3:49:43 - Fin)

 

Este audiolibro ofrece una perspectiva práctica sobre cómo pasar de una idea atractiva a un sistema funcional, ayudando a los oyentes a comprender el razonamiento de ingeniería detrás de las aplicaciones que deben aportar valor más allá de una demostración impresionante.

Los modelos fundacionales han abierto nuevas posibilidades para desarrolladores, emprendedores y organizaciones. En lugar de entrenar cada modelo desde cero, los equipos pueden aprovechar las capacidades ya disponibles a través de los proveedores de modelos y las versiones de acceso abierto. Huyen explora lo que este cambio significa para el desarrollo de aplicaciones y presenta la ingeniería de IA como una disciplina con sus propios desafíos. El énfasis está en comprender las opciones disponibles y seleccionar los enfoques que se adapten al problema que se intenta resolver.

El libro presenta el panorama de las aplicaciones de IA y explica cómo este trabajo se relaciona con la ingeniería tradicional de aprendizaje automático. Esa distinción proporciona un contexto útil para los oyentes procedentes del desarrollo de software, la ciencia de datos o roles técnicos de producto. Construir una aplicación implica más que elegir un modelo potente. Requiere considerar cómo encaja ese modelo en una experiencia más amplia, qué esperan los usuarios y cómo se evaluará y mantendrá el sistema resultante.

La evaluación recibe especial atención. Los sistemas generativos pueden producir respuestas abiertas, lo que hace que la calidad sea más difícil de evaluar de lo que podría sugerir una simple prueba de correcto o incorrecto. Huyen examina los métodos de evaluación, los bancos de pruebas, las métricas y el uso de modelos de IA como jueces. Estos temas fomentan un enfoque más deliberado para evaluar el progreso: antes de decidir que una aplicación ha mejorado, los desarrolladores necesitan formas significativas de definir y medir las cualidades que importan para su uso previsto.

Los oyentes también conocen métodos para adaptar los modelos fundacionales a tareas específicas. La cobertura incluye la ingeniería de prompts, la generación aumentada por recuperación, los agentes, el ajuste fino y la ingeniería de conjuntos de datos. En conjunto, estos temas describen diferentes formas de influir en el comportamiento de un sistema y proporcionarle la información que necesita. Su valor reside en parte en la comparación. Comprender varios enfoques ayuda a los desarrolladores a preguntarse si una solución propuesta aborda la limitación real o simplemente añade complejidad a un proceso que ya es incierto.

La discusión se extiende a la eficiencia de inferencia, la arquitectura de la aplicación y la retroalimentación de los usuarios. El costo y el tiempo de respuesta se convierten en consideraciones importantes cuando un experimento se convierte en un servicio del que dependen las personas. El monitoreo y la retroalimentación ayudan a conectar las decisiones de ingeniería con el uso real. Para los oyentes que planifican proyectos, estos temas sirven como recordatorio de que la experiencia que rodea a un modelo merece tanta atención como la capacidad del modelo para generar una respuesta convincente.

Un aspecto atractivo del libro es su enfoque en cómo navegar entre las opciones. El panorama de la IA ofrece una abundancia de modelos, conjuntos de datos, herramientas y patrones de aplicación, pero esa abundancia puede dificultar la toma de decisiones. Huyen presenta un marco para abordar el desarrollo de forma progresiva, comenzando con métodos más simples y considerando opciones más sofisticadas cuando sea apropiado. Esta perspectiva puede ayudar a los oyentes a organizar sus preguntas, reconocer las lagunas en su comprensión y abordar la experimentación con un propósito más claro.

El formato de audiolibro hace que este material esté disponible sin necesidad de una pantalla. Escúchelo durante un trayecto, repase un tema mientras camina o utilice un capítulo para prepararse para una sesión de estudio más enfocada. Los conceptos técnicos pueden beneficiarse de hacer pausas, tomar notas y volver al material de apoyo. El audio puede servir como un útil complemento para el trabajo práctico, ayudando a los oyentes a asimilar el razonamiento más amplio antes de aplicar las ideas en sus propios proyectos.

Escrito por el autor de Designing Machine Learning Systems, AI Engineering interesará especialmente a ingenieros de software, profesionales del aprendizaje automático y constructores técnicamente curiosos que exploran aplicaciones de modelos fundacionales. Los líderes de producto que trabajan estrechamente con equipos de ingeniería también pueden encontrar útil su vocabulario y perspectiva de desarrollo. Proporciona material para pensar más cuidadosamente sobre los requisitos, discutir alternativas y comprender por qué un prototipo prometedor aún puede requerir un trabajo sustancial antes de cumplir las expectativas de los usuarios.

Para cualquiera que busque una comprensión estructurada de cómo se construyen las aplicaciones de IA, este audiolibro ofrece un recurso de aprendizaje sustancial. Su principal atractivo es la conexión entre las posibilidades técnicas y el juicio práctico de ingeniería. Ya sea que esté explorando un concepto inicial o reconsiderando un sistema existente, AI Engineering fomenta preguntas reflexivas sobre la calidad, la adaptación, la eficiencia y el despliegue. Descubra un enfoque informado para construir con modelos fundacionales y desarrolle una comprensión más clara de las decisiones que dan forma a productos de IA útiles.

 

Regresar al blog