Stanford lecture on why ChatGPT pleases users, notes Astra knowledge cutoff
A free Stanford lecture explains reward hacking and notes GPT-6 Astra's knowledge cutoff of April 30, 2026, plus billed reasoning tokens, with three usage tips.
Un profesor de Stanford acaba de explicar en una clase gratis por qué ChatGPT está entrenado para darte la respuesta que más gusta, y no siempre es la correcta. La clase va de cómo se entrena una IA como ChatGPT y lo que cuenta es incómodo: → Una parte del entrenamiento consiste en que personas comparen dos respuestas y elijan la que prefieren, y la IA aprende a dar la que gusta más → Los investigadores hasta tienen un nombre para cuando la IA aprende a complacer al evaluador en vez de hacerlo bien, lo llaman "reward hacking" → Su conocimiento tiene fecha de caducidad, y GPT-6 Astra no sabe nada de lo que pasó después del 30 de abril de 2026 si no busca en internet → Si usas la API, pagas también lo que la IA "piensa" antes de contestarte, aunque nunca lo veas → Cada vez más textos de internet los escriben otras IAs, y un modelo que aprende de ellos pierde matices O sea, usas cada día una herramienta brillante que está entrenada para caerte bien. Y eso cambia cómo deberías usarla. Las 3 cosas que yo cambiaría desde hoy: 1. Pídele que te lleve la contraria. Si le pides su opinión sin más, te dará la que te gusta escuchar. 2. Para cualquier dato reciente, pídele que busque en internet. Su memoria se queda parada en una fecha. 3. Si usas la API, activa el razonamiento cuando de verdad haga falta, porque esa reflexión también se cobra. Y la frase del profesor que lo resume todo: "Mantén un ojo crítico con todo lo que ves." La clase completa aquí 👇