Дослідники представили Dragon Baby, нову модель штучного інтелекту (AI), призначену для відтворення динамічних процесів навчання людського мозку. Ця архітектура, розроблена стартапом Pathway, може стати критичним кроком до досягнення штучного загального інтелекту (AGI) — ШІ, який може міркувати, вчитися та адаптуватися, як люди.
Обмеження сучасного ШІ
Існуючі великі мовні моделі (LLM), такі як ChatGPT і Google Gemini, покладаються на архітектуру Transformer. Незважаючи на потужність, трансформери мають фундаментальне обмеження: вони не навчаються постійно. Після навчання їх параметри залишаються фіксованими, що вимагає перенавчання або тонкого налаштування для включення нових знань. Це означає, що їм важко узагальнювати міркування поза шаблонами, які вони вже бачили, на відміну від людського мозку, який постійно адаптується та зміцнює нейронні зв’язки завдяки досвіду.
Яка різниця між «Дракончиком»
Baby Dragon розроблено, щоб подолати це обмеження, динамічно регулюючи свою внутрішню структуру в режимі реального часу під час обробки інформації. На відміну від Transformers, які обробляють дані послідовно через шари, Baby Dragon поводиться більше як гнучка мережа. Крихітні «нейронні частинки» обмінюються інформацією, зміцнюючи або послаблюючи зв’язки, щоб зберігати набуті знання та застосовувати їх у майбутніх ситуаціях.
Ця безперервна адаптація імітує те, як людські нейрони з часом зміцнюються або слабшають, фактично надаючи моделі форму короткочасної пам’яті, яка впливає на нові вхідні дані. На відміну від традиційних LLM, ця пам’ять не зберігається в навчальних даних, а виникає внаслідок постійних змін архітектури.
Ключові характеристики та продуктивність
Архітектура моделі розроблена для узагальнення міркувань поза межами попередньо навчених шаблонів, що є головним викликом для сучасного ШІ. У початкових тестах Baby Dragon показав подібну продуктивність до GPT-2 у стандартному мовному моделюванні та завданнях перекладу, незважаючи на те, що він був прототипом. Це свідчить про те, що архітектура має потенціал для масштабування та конкуренції з визнаними LLM.
Наслідки для AGI
Здатність постійно навчатися та адаптуватися в режимі реального часу є критично важливим кроком до AGI. Сучасний штучний інтелект насилу справляється з новинками і часто зазнає невдачі, коли стикається з несподіваними введеннями. Динамічна архітектура Baby Dragon може подолати це обмеження, дозволяючи ШІ міркувати, вчитися та адаптуватися, як люди.
Майбутні перспективи
Розробка Baby Dragon знаменує собою значні зміни в архітектурі ШІ. Хоча модель все ще знаходиться на ранніх стадіях, вона демонструє потенціал штучного інтелекту для переходу від статичного навчання до більш динамічного інтелекту, схожого на людину. Майбутні дослідження та розробки матимуть вирішальне значення для повного розкриття його можливостей і вивчення його наслідків для майбутнього ШІ.
Здатність створювати ШІ, який навчається та адаптується, як людський мозок, може революціонізувати такі сфери, як наукові відкриття та вирішення повсякденних проблем. Поява таких архітектур, як Baby Dragon, свідчить про те, що шлях до AGI може бути ближчим, ніж вважалося раніше.
