всі говорять про @karpathy autoresearch і більшість з вас не має уявлення, що він насправді робить.

є скрипт тренування (train(dot)py), який тренує невелику мовну модель, по суті маленький GPT. і є файл інструкцій (program(dot)md), який каже AI-агенту, що робити.
ти натискаєш "старт". агент налаштовує скрипт тренування, тренується 5 хвилин, перевіряє результат. краще? зберегти. гірше? повернути назад. повторювати 100 разів за ніч, поки ти спиш.
це буквально все.
що він насправді оптимізує: АРХІТЕКТУРУ МОДЕЛІ. не прогнози. не торги. не твій портфель.
щось на кшталт:
→ 4 шари чи 8?
→ найкраща швидкість навчання?
→ AdamW чи Muon оптимізатор?
→ який розмір пакету найкращий для ЦЬОГО конкретного GPU?
оптимальна архітектура залежить від твого обладнання. H100 потребує зовсім іншу модель, ніж твій MacBook. autoresearch автоматично знаходить найкращу конфігурацію для твоєї машини.
що ти МОЖЕШЬ зробити з цим:
> створити міні-LLM, що пише код, autoresearch знаходить найкращу архітектуру, ти тренуєш на своєму датасеті
> створити легкий чатбот, що працює офлайн на твоєму телефоні
> тренувати модель на своєму власному стилі письма, щоб вона звучала як ти
> протестувати "чи RoPE перевершує ALiBi для малих моделей?" 100 варіантів за ніч замість 3 тижнів роботи над кандидатською
> оптимізувати модель для Raspberry Pi або пристрою на краю мережі
що ти НЕ МОЖЕШЬ зробити:
> прогнозувати ціни акцій
> знаходити торгові переваги
> аналізувати таблиці
> прогнозувати спортивні результати
autoresearch — це інструмент для тих, хто хоче СТВОРЮВАТИ мовні моделі, а не використовувати їх. Karpathy створив автономний цикл, де AI покращує AI. справді геніально. але він вирішує дуже конкретну проблему.
і ця проблема, ймовірно, не твоя. і це нормально, просто припини прикидатися, що це щось інше.