Less about Models; More about Architecture

practical-ai — Thu, 03 Sep 2026

Episodio: https://share.transistor.fm/s/ec79b4ac

Resumen ejecutivo

La tesis central del episodio es que, tras la democratización de la IA generativa, el desafío principal para las empresas ya no es solo desarrollar modelos, sino construir arquitecturas de IA que garanticen la soberanía de los datos, la seguridad y la operatividad mediante capas de gobernanza y evaluación.

Evolución de la carrera y visión estratégica: Chetan Gupta explica que su ascenso a líder de investigación de IA global en Hitachi se basó en apostar tempranamente por la "IA industrial" (o IA física) en 2016-2017, una apuesta arriesgada que le permitió demostrar liderazgo al mirar hacia el futuro y ejecutar con éxito [05:09].
Definición de IA Industrial/Física: Lo que comenzó como mantenimiento predictivo y detección de defectos ha evolucionado hacia la robótica a escala y la interacción humana, donde la IA debe integrarse en entornos físicos y virtuales para resolver problemas complejos más allá de la predicción simple [07:56].
Diferencias culturales y geográficas en la adopción: Existe una mayor aceptación cultural de la robótica para la interacción diaria en países como Japón y China, mientras que EE. UU. ha liderado el desarrollo de LLMs pero está catching up en robótica industrial y comercial, con una gravedad central que se está desplazando [12:16].
Cambio de paradigma: De modelos a arquitecturas: La IA generativa ha democratizado el acceso, pero las empresas no pueden depender de equipos de PhDs para cada problema; deben pasar de pensar en "modelos" a pensar en "arquitecturas" empresariales que integren múltiples cargas de trabajo de manera segura y escalable [16:54].
Soberanía de datos y protección de la IP: La "soberanía" ya no es solo un concepto estatal, sino empresarial; al usar modelos externos, las empresas pierden el control de su información privilegiada (IP), por lo que es crucial mantener los datos y el control dentro de la infraestructura propia o privada [29:23].
Componentes de la arquitectura de IA: Una arquitectura robusta debe incluir capas de cómputo, datos, modelos, inferencia y, críticamente, un "harness" (arnés) que conecte el modelo a un resultado útil, todo ello orquestado y envuelto en capas de gobernanza y aseguramiento [33:47].
El concepto de "Jagged AI" (IA irregular): Las capacidades de la IA son desiguales; son excelentes en tareas como la codificación pero pueden ser deficientes o verbosas en otras como la redacción de correos, lo que obliga a las empresas a saber exactamente dónde y cómo aplicar la IA según sus fortalezas y debilidades [19:38].
Importancia de las evaluaciones (Evals) propias: Los benchmarks públicos no reflejan las necesidades específicas de una empresa; es vital crear capas de evaluación internas para probar el rendimiento en datos relevantes y permitir el intercambio de modelos sin afectar la experiencia del cliente [38:15].
Estrategia de Rackspace: "Mirror Org": Rackspace busca construir una disciplina interna donde las soluciones de IA probadas y validadas en sus propias cargas de trabajo internas se puedan rotar y vender a los clientes, asegurando que lo que se ofrece externamente es fiable y probado [42:41].
Desafíos actuales y futuros: Los principales retos para el futuro inmediato son mejorar la arquitectura, establecer una disciplina de "organización espejo" interna y llenar el vacío actual en las capas de gobernanza, aseguramiento y orquestación para entornos soberanos [41:58].

Modelos locales y self-hosting

Aquí tienes la extracción de referencias a modelos ejecutables en local, infraestructura propia y aspectos técnicos relacionados, basada estrictamente en la transcripción:

Modelos locales para ahorro de costes y privacidad: Se menciona el uso de un "modelo local" para responder preguntas básicas (como la capital de Noruega) para evitar gastar tokens caros en APIs de terceros (como ChatGPT), lo cual es "mucho más barato" [18:15].
Infraestructura propia (On-prem) y soberanía de datos: Se argumenta que las empresas deben considerar el uso de "modelos locales" y "modelos de pesos abiertos" (open weights) en su "propio entorno" para garantizar la soberanía de los datos y no perder su propiedad intelectual (IP/alpha) al enviar datos a proveedores externos [18:55], [25:39].
Hardware y Centros de Datos (Rackspace): Rackspace ofrece un entorno de "AI privada" y "nube privada" donde los clientes pueden ejecutar su IA de forma segura y controlada, utilizando sus propios centros de datos y teniendo una asociación con AMD para la capa de cómputo (chips) [33:06], [33:47].
Arquitectura de inferencia y despliegue: Se describe una capa de "inferencia" como el mecanismo para obtener inteligencia de un modelo, que se sitúa sobre la capa de modelo y debajo de la capa de "harness" (arnés/orquestación) [34:32].
Herramientas de gobernanza y control (Prediction Guard): Se menciona Prediction Guard como una empresa que ofrece un "plano de control autoalojado" (self-hosted control plane) que se ejecuta en la infraestructura propia del cliente, ya sea "on-prem", "air-gapped" (aislada) o en una VPC de nube [27:52].
Disponibilidad en Marketplaces Cloud: Aunque se promueve la infraestructura propia, se indica que la solución de Prediction Guard está disponible en los marketplaces de AWS y Azure [27:52].
Modelos de Pesos Abiertos (Open Weights): Se discute la disponibilidad de modelos de "pesos abiertos" (open weights), mencionando que Meta ha reducido su enfoque en ellos, mientras que NVIDIA y modelos de China están ganando terreno en capacidad [22:42], [24:53]. Se aconseja a las empresas no "casarse" con una familia de modelos específica debido a cambios comerciales o geopolíticos, sino mantener la capacidad de intercambiarlos [25:39].
Evaluación de modelos (Evals): Se enfatiza la necesidad de construir una capa de "evals" (evaluaciones) propia basada en datos relevantes para la empresa ("golden data set") para decidir qué modelo usar, permitiendo cambiar de modelo (swap in/out) según resultados de costo, seguridad o rendimiento específico, más allá de los benchmarks genéricos [38:15], [39:00], [40:32].

Lo que han hecho

No se trata en este episodio.

Relevancia

El episodio no aborda la gestión de aparcamiento urbano ni la movilidad como tema central de trabajo o estudio realizado por los participantes. La única mención a "contar coches en un aparcamiento" ([09:17]) es una anécdota hipotética de Chetan Gupta para ilustrar la evolución de la visión por computadora en la industria, sin que se haya realizado ningún despliegue, experimento o análisis concreto sobre el problema del aparcamiento. Por tanto, no hay datos sobre gestión de movilidad.

Mencionado en el audio

Aquí tienes la lista de herramientas, papers, empresas, personas y productos citados literalmente en la transcripción, con su primera mención y contexto:

Empresas y Organizaciones

Practical AI Podcast: [00:00] Podcast donde se analizan las aplicaciones reales de la inteligencia artificial.
Prediction Guard: [00:41] Empresa donde Daniel Whitenack es CEO.
Lakhid Martin: [00:41] Empresa donde Chris Benson trabaja como Ingeniero Principal de Investigación en IA y Autonomía.
Rackspace: [00:41] Empresa donde Chetan Gupta es Chief AI Officer.
Hitachi: [01:22] Empresa donde Chetan Gupta trabajó anteriormente como investigador principal.
Hilliard Packard Labs: [01:22] (sic?) Laboratorio de investigación donde Chetan Gupta trabajó como científico de investigación.
Facebook: [05:50] Empresa mencionada como competidora por talento en el área de la Bahía.
Google: [05:50] Empresa mencionada como competidora por talento en el área de la Bahía.
Lockheed Martin: [02:46] Empresa mencionada como ejemplo de organización enfocada en problemas industriales.
Midwest AI Summit: [14:32] Cumbre de IA asociada al podcast, que ocurre en Indianápolis.
NVIDIA: [23:22] Empresa mencionada por su papel creciente en modelos de pesos abiertos.
AMD: [33:06] Empresa con la que Rackspace tiene una asociación de aplicaciones.
AWS: [27:52] Marketplace donde está disponible Prediction Guard.
Azure: [27:52] Marketplace donde está disponible Prediction Guard.
Breakmaster Cylinder: [45:36] Fuente de los beats para el podcast.

Personas

Daniel Whitenack: [00:41] Coanfitrión del podcast y CEO de Prediction Guard.
Chris Benson: [00:41] Coanfitrión del podcast e Ingeniero Principal en Lakhid Martin.
Chetan Gupta: [00:41] Invitado, Chief AI Officer en Rackspace.
Satya Nadella: [18:55] Mencionado por su postura sobre la soberanía de datos y la pérdida de alpha (IP).
Jensen: [18:55] (sic?) Mencionado junto a Satya Nadella respecto a la operacionalización de la IA.

Conceptos, Herramientas y Productos Específicos

industrial AI: [02:02] Área de enfoque inicial en Hitachi, definida como inteligencia artificial para problemas industriales.
physical AI: [05:50] Concepto anticipado por Chetan Gupta, relacionado con la robótica y la interacción física.
predictive maintenance: [08:37] Problema clásico de mantenimiento predictivo mencionado como ejemplo de aplicación industrial.
computer vision: [09:17] Tecnología que se volvió más importante a medida que la industria evolucionaba hacia la detección de defectos.
large language models: [09:17] Modelos de lenguaje grande que expandieron las capacidades en el mundo industrial.
reinforcement learning: [10:00] Técnica tradicionalmente usada en automatización que ahora se aplica a la robótica a mayor escala.
metaverse: [10:00] Mencionado como importante para construir mundos virtuales para entrenamiento y resolución de problemas.
embodied intelligence: [11:24] Concepto relacionado con la inteligencia encarnada, la robótica y la computación en el borde.
MidwestAISummit.com: [15:16] Sitio web para el evento Midwest AI Summit.
PracticalAI 20: [15:16] Código promocional para obtener un 20% de descuento en la inscripción.
chat, GPT: [18:55] (sic?) Mencionado como ejemplo de servicio de nube donde los tokens son caros.
Sambhava: [18:55] (sic?) Mencionado en el contexto de usar un modelo local para preguntas simples y baratas.
Enthropic: [21:05] (sic?) Empresa cuyo modelo fue hackeado, mencionada como ejemplo de problemas de seguridad.
open weights: [22:42] Modelo de modelos disponibles públicamente, contrastado con los cerrados.
open source models: [24:53] Modelos de código abierto, mencionados en el contexto de la competencia con China y NVIDIA.
predictionguard.com: [27:52] Sitio web de Prediction Guard.
predictionguard.com slash practical AI: [27:52] URL específica mencionada para visitar el sitio.
MCP servers: [32:08] Servidores mencionados como parte de la arquitectura de IA (posible error de transcripción para MCP o similar).
cloud code: [34:32] (sic?) Mencionado como ejemplo de un "harness" de codificación alrededor de un modelo.
coding harness: [34:32] Ejemplo de un "harness" que permite usar un modelo para codificación.
evals: [38:15] Evaluaciones propias que las empresas deben construir para sus cargas de trabajo específicas.
golden data set: [39:42] Conjunto de datos de referencia utilizado históricamente para probar modelos antes del despliegue.

Enlaces de las show notes

Del feed, no del audio: estos si son reales.

Generado 2026-09-19 19:16 sobre transcripcion automatica — verifica antes de citar.