Los modelos del lenguaje alucinan. A veces. Cada vez menos.

• Alucinan = dicen cosas probables pero erroneas con total seguridad.

Si no entendés por qué alucina, cada error te hace desconfiar. Pasas de pensar que ChatGPT es mágico a verlo como una desastre en lo que no se puede confiar nada de lo que dice.

Pasamos de Einstein a Homero (el amarillo) sin escala.

Si lo entendés, no solo lo entendés.

También sabes cuándo desconfiar, cuándo no, cómo chequear y cómo hacer para que alucine menos.

OpenAI acaba de publicar un paper acerca de la alucinación.

La conclusión: los modelos no saben decir “no sé”.

¿Por qué no saben decir “no sé”? En parte por la forma en que son evaluados, al estilo multiple choice.

Si no contestan no suman, si arriesgan tienen la posibilidad de sumar puntaje.

La evaluación premia la apariencia de certeza más que la honestidad de la duda.

Es mejor responder con seguridad que admitir no saber.

Decisión obvia, hasta un modelo del lenguaje puede tomarla.

Me inquieta más la forma en que educamos a nuestros hijos.

• Penalizamos decir no se.

• Premiamos el chamuyo.

• Penalizamos el error.

• ¿El pensamiento crítico?

Todo lo contrario de lo que necesitamos para un mundo con IA.

Minimizando alucinación en la práctica

Esta semana en el Taller de IA en Baikal vimos mas de 10 técnicas para evitar sesgos y alucinaciones de ChatGPT. Ademas de entender en mayor profundidad.

Les dejo un prompt prompt sencillo y efectivo.

Responde en tres secciones: HECHOS (con fecha y fuente), OPINIONES (quién las sostiene), DESCONOCIDO (qué falta).
Tema: [tema]. Si no hay fuente fiable, indica “No verificado”.

Si lo modelos que alucinan, las personas deben verificar.

📌 Actualizaciones útiles

📁 Proyecto de ChatGPT para todos. 
Los proyectos de ChatGPT son muy útiles, permiten agrupar en la misma carpeta documentos, prompts personalizados y conversaciones. No solo es una cuestión de orden sino de personalización en las interacciones. Ahora lo tienen también los planes gratis. Bonus: íconos y colores para sentirte organizado aunque no lo estés.

🧠 Memoria por proyecto en ChatGPT: activar la memoria en ChatGPT es una cuestión de gustos, para el mio le falta para que esté para el prime time. Pero ahora podes habilitar memoria dentro de un proyecto. Se pone mas interesante. No mezcla la charla de tu startup con la de tu novela secreta (cosa que si hace la memoria globla).

💸 Firmaron un papel y crearon USD 270.000.000.000 de dólares.

Este no es un news de finanzas pero me tenté.

El dinero no se gana. Se crea.

Esta semana Oracle subió un 36% en un solo día: ahora vale USD 270 Billones más . Sí, con B de billones, miles de millones. Para ponerlo en contexto, redondeando es como 50% del PBI anual de Argentina. En un solo día..

¿Encontró la cura para el cáncer? ¿Desarrolló una nueva tecnología revolucionaria? Nope, nada de eso.

Según The Wall Street Journal, OpenAI firmó un acuerdo de USD 300 mil millones en cómputo con Oracle, a cinco años, a partir de 2027. Pero…

• OpenAI no tiene esos 300B, ni planea ser rentable antes de 2030 (hoy factura unos 10B).

• Oracle no tiene los datacenter, ni los chips, ni la energía necesaria. Le vendría bien un reactor nuclear a mano.

Firmaron un papel y crearon USD 270.000.000.000 de dólares.

Ah, y de paso: Larry Ellison superó brevemente a Musk como el hombre más rico del mundo.

¿Habrá burbuja financiera en IA?

El dinero no se gana. Se crea.

⚡ Cortas

🚁 Uber suma helicópteros: dejá el VW Gol y sacá carnet de piloto ↗ Uber integra vuelos en 2026 tras la compra de Joby por $125M. Veremos si es solo marketing o despega. Ojo en 2024 Blade transportó mas de 50.000 pasajeros. Prometen menos tráfico y cero emisiones.

💼 Klarna: de conejillo de indias de OpenAI a la bolsa ↗ Klarna sale a bolsa. Fue de las primeras en usar AI en atención al cliente. Después recalcularon un poco. Habíamos hablado por acá. ¿Valuación? De $45B a $6.7B y ahora $20B. ¿La IA realmente mejora la rentabilidad? A algunos parece que si.

📈 En Estados Unidos se construyen mas datacenters que oficinas.

Podríamos subtitular que se crean mas oficinas para empleados digitales que empleados de carne y hueso.

🎶 Mastropiero

Creé un GPT Personalizado que me recomienda canciones relacionadas con el contenido. Así escucho mientras escribo.

El primer empleado del newsletter.

Ya se viene un curso de GPT personalizados.

Distorsionando la realidad con Lucy in the Sky with Diamonds.

• La canción juega con imágenes surrealistas y distorsionadas: flores de celofán, cielos de mermelada, personas con cabezas en forma de calidoscopio.

• Es un ejemplo perfecto de cómo la mente —humana o artificial— puede construir realidades alternativas a partir de fragmentos.

🙋‍♀️ Human Feedback

Las máquinas aprenden con datos, este newsletter aprende con vos. Todavía estoy buscando la mejor forma, cuales son las mejores secciones, cual el balance de contenido. Dejá tu feedback: que te gustó, dudas, ideas o simplemente un emoji.