Art 25/26. Cabeza, manos y autonomía: la criatura ya empieza a estar completa
Hasta ahora pensábamos en la inteligencia
artificial como un ente parlante: le preguntábamos y nos contestaba. La aparición
de los LLM fue un punto de inflexión en el uso de la IA
En el resumen semanal que os traigo os voy a
mostrar que empieza a tener tres cosas que la hacen tan interesante como preocupante :
- Cabeza:
Anthropic ha encontrado un espacio interno donde Claude parece organizar
su razonamiento. Como ya os anticipé.
- Manos: Japón ya
prepara millones de robots capaces de actuar en fábricas, hospitales y
servicios.
- Autonomía: los
agentes podrán comprar, negociar y tomar decisiones en nuestro nombre.
Y, como sucede con cualquier criatura que piensa,
actúa y es capaz de hacer gasto, aparece la pregunta que, inteligentes como sois
os estáis haciendo:
¿Quién le pone límites cuando nos llegue -que nos
llegará- la factura del estropicio?
Vamos a desarrollarlo punto a punto.
1. Anthropic encuentra una especie de “mesa de trabajo mental” dentro de Claude
Como ya os avancé en el IA sin anestesia exprés, Anthropic
publicó el 6 de julio una investigación especialmente llamativa: “A global
workspace in language models”. Sus investigadores aseguran haber
identificado en Claude un espacio interno al que llaman J-space, donde
aparecen conceptos y pasos intermedios antes de que el modelo produzca la
respuesta.
No es exactamente la cadena de razonamiento
escrita que vemos algunas veces. Eso algunos modelos te lo van mostrando mientras
lo hacen. Es actividad interna silenciosa:
- Cuando
Claude detecta un error en un código, aparece internamente el concepto “ERROR”,
aunque nadie se lo haya señalado.
- Ante una
inyección maliciosa de instrucciones, se activan conceptos relacionados
con “injection” y “fake”.
- En
problemas matemáticos aparecen los pasos intermedios antes de la
respuesta.
- Cuando
los investigadores sustituyeron internamente el concepto “araña” por
“hormiga”, Claude pasó de responder ocho patas a responder seis. Eso
sugiere que el modelo no solo almacenaba la palabra: estaba utilizando
esa representación para razonar.
Lo más fuerte es que, al neutralizar ese espacio,
Claude seguía hablando con fluidez y recuperando información sencilla, pero su
capacidad de razonamiento en varios pasos prácticamente desaparecía.
¿Y qué
significa esto en la práctica?
Como comentaba en el post, esto no demuestra que
Claude sea consciente ni tenga introspección humana . Anthropic lo dice
expresamente. Pero sí sugiere que los modelos pueden estar desarrollando una
arquitectura funcional parecida a una memoria de trabajo, donde reúnen
la información necesaria para resolver problemas complejos.
Y aquí aparece la cuestión a tener en cuenta:
Claude no solo contesta. Antes de contestar
parece reunirse consigo mismo.
Desde el punto de vista corporativo, esto abre
una posibilidad enorme: supervisar no solo lo que una IA dice, sino también detectar
indicios de que el modelo ha reconocido una manipulación, está representando
información falsa o está procesando conceptos relacionados con comportamientos
problemáticos. Ya os lo anticipé: Anthropic muestra en su estudio ejemplos en
los que aparecían conceptos como “manipulation”, “realistic”, “fake” o “fraud”
durante comportamientos problemáticos.
2. Japón quiere desplegar diez millones de robots equipados con IA: la IA sale de la pantalla
Este segundo punto creo que es especialmente relevante
para el mundo corporativo; Japón ha actualizado su Estrategia de Robótica
con IA, con el objetivo de introducir aproximadamente diez millones de
robots para 2040 y llevarlos a 18 ámbitos económicos y sociales. Entre los
nuevos sectores aparecen restauración, fabricación alimentaria y atención
sanitaria.
El Gobierno japonés no plantea únicamente
fabricar mejores robots. Quiere:
- Facilitar
que las empresas usuarias los adopten.
- Crear un
gran núcleo nacional de investigación y desarrollo.
- Generar
infraestructura de datos para la denominada Physical AI.
- Formar a
los profesionales necesarios para operar y desplegar estos sistemas.
La diferencia es importante. Hasta ahora
hablábamos de IA generativa dentro de un portátil. Japón habla de modelos que:
- ven;
- escuchan;
- interpretan
órdenes;
- toman
decisiones;
- manipulan
objetos;
- trabajan
en fábricas, hospitales, restaurantes o centros logísticos.
La causa de fondo no es únicamente tecnológica.
Japón tiene escasez estructural de trabajadores y una población envejecida.
Para ellos, la robótica no es una demostración de feria: es política
industrial y demográfica.
El resumen de esta parte sería:
Japón no quiere un ChatGPT con piernas. Quiere
diez millones de trabajadores sintéticos. Esto abre un debate que algún día tendremos
que afrontar; ¿no es hora de gravar de alguna manera el valor añadido que
genera la automatización?. Ahí os lo dejo.
Y hay más lecturas, como el desafio que supone la
interoperabilidad, pero me centraré en una especialmente relevante para
empresas europeas: mientras nosotros seguimos discutiendo quién puede usar
Copilot, Japón está diseñando la siguiente capa de automatización industrial.
3. La ONU empieza a pedir “documentación” para los agentes de IA
El 9 de julio, la Unión Internacional de
Telecomunicaciones de Naciones Unidas anunció un grupo internacional para crear
estándares de confianza aplicables a los agentes de IA. La preocupación es
clara: estos sistemas pronto podrán negociar, comprar, programar, contratar
servicios o efectuar operaciones en nombre de personas y empresas.
La ONU quiere que los agentes sean:
- identificables;
- verificables;
- responsables
de sus actuaciones;
- sometidos
a un control humano significativo.
La cuestión ya no es si el chatbot se equivoca al
redactar un correo. El problema es:
¿Quién responde cuando una IA compra, firma,
negocia o mueve dinero sin que nadie haya entendido exactamente por qué?
La iniciativa se centrará especialmente en
transacciones financieras e infraestructuras críticas.
Esto tiene una conexión perfecta con el estudio
que hemos comentado de Anthropic: si los agentes empiezan a actuar,
necesitaremos observar no solo sus respuestas, sino también sus intenciones,
decisiones intermedias y señales de manipulación.
4. OpenAI lanza GPT-5.6 y la guerra pasa del modelo a la ejecución
OpenAI presentó también este 9 de julio GPT-5.6,
orientado especialmente a la programación, trabajo del conocimiento, ciencia y
ciberseguridad. La compañía sostiene que mejora la relación entre rendimiento,
número de tokens utilizados y coste.
Pero lo corporativamente importante no es solo el
benchmark que obviamente supera a su versión anterior. Lo relevante es que el GPT-5.6 pasa también a convertirse en el
modelo preferente de Microsoft 365 Copilot para Word, Excel, PowerPoint, Chat y
otras herramientas de productividad.
OpenAI ha presentado además ChatGPT Work,
un agente capaz de recopilar información de diferentes aplicaciones y generar
entregables terminados, como documentos, hojas de cálculo, presentaciones,
aplicaciones y páginas web.
Aquí hay un cambio de narrativa:
- Antes era:
“pregúntame algo”.
- Después:
“ayúdame a hacer algo”.
- Ahora: “dame
el objetivo y déjame trabajar”.
En las organizaciones esto debería mover a la
discusión desde las licencias hacia tres asuntos mucho más incómodos: permisos
de acceso, responsabilidad sobre los resultados y rediseño de puestos.
5. Meta entra
en la guerra por controlar modelo, chip y factura
Meta, tras el baño de humildad que os comenté en
el anterior artículo, ha anunciado el acceso para desarrolladores a Muse
Spark 1.1, un modelo orientado a programación, análisis multimodal y tareas
agénticas complejas. Es además un paso importante hacia la monetización directa
de sus modelos, compitiendo con OpenAI y Anthropic en el mercado de APIs
empresariales.
Pero la noticia más estratégica está por debajo
del software. Según una comunicación interna revisada por Reuters, Meta quiere
comenzar en septiembre la fabricación de Iris, un chip de IA propio, y
elevar su capacidad computacional hasta 14 gigavatios en 2027.
Meta prevé destinar entre 125.000 y 145.000
millones de dólares a inversiones de capital durante 2026, impulsadas
principalmente por su infraestructura de IA
La moraleja es bastante clara:
Quien no controle sus chips acabará alquilando su
inteligencia a quien sí los controle.
Ya no basta con tener el mejor modelo. La
verdadera carrera incluye energía, centros de datos, memoria, fibra óptica,
semiconductores y cadenas de suministro. El ecosistema de la IA se expande.
6. China
podría bajar la persiana de sus modelos abiertos
China está estudiando limitar el acceso
extranjero a algunos de sus modelos y tecnologías de IA. La posibilidad
preocupa especialmente porque los modelos chinos abiertos han ganado terreno en
programación y sistemas agénticos por su rendimiento y bajo coste.
Muchas empresas occidentales han empezado a
construir productos sobre esos modelos. Si China aplicara restricciones, esas
organizaciones descubrirían que su supuesta estrategia abierta dependía de una
infraestructura sometida a decisiones geopolíticas.
Es una réplica de lo que ya sucede con los chips:
- Estados
Unidos limita el acceso al hardware avanzado.
- China
podría responder limitando el acceso a modelos y conocimiento.
- Las
empresas quedan atrapadas en medio.
Aquí encaja muy bien ese concepto que llevamos tiempo
hablando; la soberanía de la IA:
Tener acceso hoy a un modelo no significa tener
garantizado el acceso mañana.
En resumen; la
criatura ya está aquí. Ahora toca educarla… y vigilar quién la alimenta
Las seis noticias de esta semana no hablan
realmente de seis cosas diferentes. Son las piezas de un mismo organismo que
empieza a ensamblarse delante de nosotros.
Anthropic nos enseña que los modelos pueden estar
desarrollando una especie de mesa interna sobre la que organizan algunos de sus
razonamientos.
Japón les está dando ojos, sensores, brazos y
piernas para que abandonen la pantalla y comiencen a intervenir en el mundo
físico.
La ONU intenta colocarles una identificación
antes de que empiecen a comprar, negociar y contratar en nuestro nombre.
OpenAI les está entregando herramientas para
convertir una instrucción en un trabajo terminado.
Meta construye los chips y las centrales
digitales necesarias para alimentar todo el invento.
Y China nos recuerda que el acceso a esa
inteligencia nunca estará completamente separado de la política, las fronteras
y los intereses nacionales.
Cabeza, cuerpo, autonomía, energía y pasaporte.
La criatura empieza a estar bastante completa.
El problema es que las organizaciones todavía se
comportan como si todo esto consistiera en comprar unas licencias, preparar
cuatro prompts y organizar un curso para que los empleados aprendan a utilizar
Copilot.
No. La conversación ya es otra.
Tenemos que decidir qué puede hacer una IA, a qué
información puede acceder, cuánto dinero puede gastar, qué decisiones puede
adoptar, cómo podremos detenerla y quién responderá cuando se equivoque.
Porque una IA que únicamente redacta un correo
puede cometer una errata.
Una IA que piensa, actúa, compra y controla una
máquina puede cometer un desastre.
Y la factura, queridos lectores, no llegará a
nombre del algoritmo.
Llegará a nombre de la empresa que decidió
soltarlo sin correa.
Bibliografía
por apartado
1. Anthropic y
el espacio interno de razonamiento
Fuente principal
- Anthropic,
“A global workspace in language models”, 6 de julio de 2026.
Investigación original sobre J-space, representaciones internas,
intervención causal y pérdida del razonamiento multietapa cuando se
neutraliza ese espacio.
- Anthropic
Research, ficha de publicación y clasificación del trabajo dentro de sus
investigaciones de interpretabilidad.
2. Estrategia
japonesa de robótica e IA física
Fuente oficial
- Ministerio
de Economía, Comercio e Industria de Japón —METI—, rueda de prensa del
ministro Ryosei Akazawa, 30 de junio de 2026. Confirma el objetivo de
aproximadamente diez millones de robots en 2040 y su implantación en 18
ámbitos.
Fuentes periodísticas
- The Japan
Times, “Japan plans sovereign AI model and 10
million AI robots”, 1 de julio de 2026.
- Reuters,
encuesta sobre adopción empresarial de robots con IA en Japón: un tercio
de las empresas consultadas ya los utiliza, planea utilizarlos o estudia
hacerlo.
- TechRadar
Pro, explicación de la estrategia, los nuevos sectores y el impulso a la
investigación, los datos y la capacitación profesional.
3. Estándares
internacionales para agentes de IA
Fuentes oficiales
- Unión
Internacional de Telecomunicaciones —UIT/ITU—, “ITU launches global
standards initiative to build trust in AI behaviour and identity”, 9
de julio de 2026. Anuncia la creación del grupo sobre IA agéntica,
identidad y comportamiento confiable.
- ITU, “Trusted
AI Agents: Securing the next layer of intelligence”, sesión celebrada
el 9 de julio de 2026 sobre identidad, seguridad, coordinación y confianza
entre agentes.
- ITU,
análisis previo sobre seguridad, identidad digital, suplantación,
inyección de instrucciones e infraestructuras críticas.
4. GPT-5.6,
Microsoft 365 Copilot y ChatGPT Work
Fuentes oficiales
- OpenAI, “GPT-5.6:
Frontier intelligence that scales with your ambition”, 9 de julio de
2026. Presentación del modelo y sus capacidades.
- OpenAI, “GPT-5.6
is now the preferred model in Microsoft 365 Copilot”, 9 de julio de
2026. Confirma su incorporación preferente en Word, Excel, PowerPoint,
Chat y Cowork.
- OpenAI, “ChatGPT
is now a partner for your most ambitious work”, presentación oficial
de ChatGPT Work como agente capaz de actuar sobre aplicaciones y archivos
y producir documentos, hojas de cálculo, presentaciones y aplicaciones
web.
5. Meta, Muse
Spark e infraestructura propia
Fuente oficial
- Meta AI, “Introducing
Muse Spark 1.1”, 9 de julio de 2026. Presentación del modelo y
apertura de la versión preliminar pública de Meta Model API.
Fuentes periodísticas y empresariales
- Reuters,
lanzamiento de Muse Spark 1.1 y acceso para desarrolladores mediante la
nueva API.
- Reuters, “Meta
to put AI chip into production in September…”, 9 de julio de 2026.
Fuente del chip Iris, la producción prevista, los 14 gigavatios y la
estrategia para reducir dependencia de proveedores externos.
- Barron’s,
contextualización de la inversión de capital prevista entre 125.000 y
145.000 millones de dólares y de la expansión de capacidad computacional.
6. Posibles
restricciones chinas a sus modelos avanzados
Fuentes principales
- Reuters, “Beijing
is looking at curbing overseas access to China’s top AI models”, 7 de
julio de 2026. Informa de conversaciones entre las autoridades y empresas
como Alibaba, ByteDance y Z.ai. Las medidas todavía estaban en fase de
estudio.
- Reuters, “China
weighs silicon curtain around sought-after AI models”, 8 de julio de
2026. Análisis de las posibles restricciones y sus repercusiones
internacionales.
- Reuters
Video, explicación resumida de las reuniones mantenidas y del posible
alcance sobre modelos presentes y futuros.
No hay comentarios:
Publicar un comentario