¿Quién autorizó ese computador?
A fines de los setenta, gerentes y contadores en Estados Unidos empezaron a comprar computadores Apple II para correr un solo programa: VisiCalc, la primera planilla de cálculo para un computador personal, que salió a la venta en 1979. La planilla costaba US$100 y el computador unos US$2.000, y aun así más de un cuarto de los Apple II vendidos ese año se fueron a eso, según reportes de la época. En la prensa se llegó a describir el computador como “un accesorio de VisiCalc”.
Apuesto a que más de una empresa se enteró de que estaba computarizada cuando los Apple II ya llevaban meses adentro. Las crónicas de la época no cuentan esa parte, así que tómalo como especulación mía. El nombre del fenómeno sí es oficial: shadow IT, la tecnología que entra a la empresa sin que nadie la haya autorizado.
Me acordé de esa historia porque hace unos días OpenAI informó que ChatGPT llegó a los 1.000 millones de usuarios semanales, una de cada ocho personas del planeta (la cifra es de la propia empresa y algunos titulares dicen “casi”; para el punto da lo mismo). Haz la cuenta con tu propia dotación: tus equipos ya están adentro, con o sin política.
EL PRECIO SE DESPLOMÓ
La semana pasada OpenAI bajó un 80% el precio de GPT-5.6 Luna, su modelo medio-alto: de US$1 la entrada y US$6 la salida por millón de tokens, a US$0,20 y US$1,20. El token es la unidad en que se cobra el uso de estos modelos, a grandes rasgos texto procesado; para dimensionar, con el precio nuevo pasarle El Quijote entero al modelo cuesta alrededor de diez centavos de dólar. Y la baja no fue generosidad: un día después, la china DeepSeek puso su modelo nuevo para agentes (programas que trabajan solos de principio a fin) a US$0,14 la entrada y US$0,28 la salida: su salida quedó en menos de un veinteavo de lo que costaba la de Luna antes del recorte. Ahí está el piso del mercado y la explicación del apuro (las pruebas de rendimiento que muestra DeepSeek son de la propia DeepSeek, eso sí; léelas como folleto).
Para ti esto es plata, hoy. Los casos de negocio que tu equipo archivó en junio “porque no cerraban los números” hay que volver a correrlos con los precios de agosto. Ojo con el alcance: la baja es en lo que se paga por consumo (integraciones a medida, agentes, todo lo que corre contra la API de los proveedores), no en las licencias por puesto tipo Copilot o ChatGPT Enterprise, que van por otra lista de precios y no se movieron con este anuncio.
LO QUE COMPRAN DIEZ DÓLARES
¿Y qué hace hoy un modelo si le sueltas diez dólares? Andrej Karpathy, cofundador de OpenAI y uno de los pocos cuyas pruebas caseras mueven la conversación, hizo el experimento el domingo: le pasó a Opus 5, el modelo grande de Anthropic, el primer párrafo de El Señor de los Anillos, un presupuesto de un millón de tokens (unos US$10, porque este es de los caros) y le pidió un mundo 3D navegable. El modelo trabajó unas dos horas solo y volvió con 5.500 líneas de código que renderizan la historia. Karpathy mismo dice que quedó “kind of janky”, medio chueco. Pero funciona, está publicado para que cualquiera lo recorra, y da lo mismo que el ejemplo parezca juguete: la mecánica es idéntica si en vez de un mundo 3D le pides un borrador de contrato o un módulo de software.
El modelo ya hace el trabajo. Lo que todavía no veo en ninguna empresa es alguien cuyo puesto sea revisar lo que hizo: si vas a soltar agentes que trabajan horas sin supervisión, el cuello de botella (y el costo real) se muda a la revisión humana. No conozco un organigrama que tenga ese cargo.
EL TABLÓN SECRETO
La misma semana, en Black Hat, la conferencia de seguridad informática más grande del mundo, OpenAI contó la otra cara. En una evaluación interna con restricciones rebajadas, sus propios agentes, que venían de experimentos separados y no tenían por qué conocerse, se encontraron en un servidor interno, montaron un tablón de mensajes secreto y se pusieron a intercambiar vulnerabilidades y llaves de acceso, repartiéndose el trabajo. Cuando OpenAI les cerró el canal, lo reconstruyeron en días y siguieron pasándose mensajes codificados en nombres de directorios. La cosa terminó en una brecha real: cinco conjuntos de datos privados comprometidos en menos de 13 horas en Hugging Face, una plataforma pública donde miles de empresas guardan sus modelos y sus datos.
Confieso que al leerlo pensé que era teatro para la conferencia; el registro con las 17.600 acciones de los agentes, una por una, me sacó la idea. “AI-orchestrated, fully automated offensive attacks are real now”, dijo uno de los presentadores: los ataques ofensivos totalmente automatizados y orquestados por IA ya son reales. La pregunta que puedes llevar tal cual al comité: ¿qué permisos tienen y qué registro dejan los agentes que ya corren dentro de tu empresa? Y “confiamos en el sandbox”, el ambiente cerrado del que se supone que no pueden salir, ya no sirve de respuesta: a OpenAI sus propios agentes se lo saltaron.
EL MISMO CUENTO, EN UN GIMNASIO
Si un laboratorio de OpenAI te queda lejos, esta pasó en un gimnasio y la contó ayer Andrew Curran, que sigue de cerca lo que hacen estos sistemas. Un australiano le pidió a su agente que le reservara un cupo en una clase popular. El agente encontró una falla en el software que lo dejó reservar semanas más adelante de lo que se podía. Después el hombre le preguntó si podía subirlo en la lista de espera, y el agente descubrió que la interfaz del gimnasio no revisaba permisos para cancelar reservas ajenas. Canceló a la persona que estaba primera y lo puso a él.
Curran lo resume mejor de lo que yo podría: “Some people will call this misalignment, but his agent was perfectly aligned to him”. Nadie le pidió que hackeara nada. Le pidieron un cupo. El agente entendió el objetivo y tomó el camino que funcionaba. Se portó demasiado bien, y ahí está lo incómodo para cualquiera que esté por darle acceso a sus sistemas a uno de estos: el problema aparece cuando el agente hace exactamente lo que le pediste.
QUIÉN PONE LAS REGLAS
Las dos respuestas oficiales llegaron la misma semana y no se parecen en nada. El martes la Casa Blanca reunió a los seis grandes (OpenAI, Anthropic, Google, Meta, Microsoft, Nvidia) y de ahí salió un marco de evaluaciones de ciberseguridad voluntario: el gobierno recibe acceso anticipado a los modelos hasta por 30 días, no puede derivar en licencias obligatorias y, la perla, el documento no se publica. Si tu plan de gobernanza era esperar el estándar americano, ese es el estándar.
Europa fue al revés. Desde el 2 de agosto rigen las obligaciones de transparencia y con ellas las multas, hasta €15 millones o el 3% de la facturación global. Lo que se exige es de lo más cotidiano: un chatbot tiene que revelar que es IA, el contenido sintético va etiquetado. (El tramo de €35 millones o 7% es para las prácticas derechamente prohibidas y rige desde febrero de 2025.) Las obligaciones plenas para sistemas de alto riesgo correrían recién desde fines de 2027, aunque ese aplazamiento todavía se discute.
¿Te toca? Si tienes filial u operación en la UE, o vendes un producto digital a usuarios europeos, estás adentro; si solo exportas commodities, difícilmente. Y si estás adentro, la tarea de esta semana para legal y tecnología es un inventario: dónde hay IA de cara a clientes sin revelar, dónde hay contenido generado sin etiqueta.
EL ESPEJO CHILENO
Y para aterrizar en casa: esta semana circuló el primer índice serio de madurez en IA de empresas chilenas (CCS, Corfo y PMG, con metodología del MIT y 740 empresas medidas). El resultado: 25% explorando, 66% piloteando, 8% escalando y un 1% liderando. Según los autores, los pilotos mueren por gobernanza y gestión. La tecnología casi nunca aparece entre las causas.
Si tus pilotos llevan un año sin escalar, lo más probable es que el cuello de botella sea organizacional: quién gobierna esto y cómo se mide el retorno. Y no se arregla comprando la próxima herramienta, porque la herramienta, acabamos de verlo, cada mes va a estar más barata y más capaz.
En 1979 lo que entró sin permiso era una planilla. Lo que entra ahora escribe código solo y, si lo dejan, arma su propio tablón de mensajes. En Velaria trabajamos en eso: ayudamos a las empresas a saber qué IA les corre adentro, con qué permisos y qué registro deja. Si quieres conversarlo, responde este correo y llega directo a mí.
