Onderzoekers hebben ‘Dragon Hatchling’ onthuld, een nieuw model voor kunstmatige intelligentie (AI) dat is ontworpen om de dynamische leerprocessen van het menselijk brein te repliceren. Deze architectuur, ontwikkeld door AI-startup Pathway, zou een cruciale stap kunnen zijn in de richting van het bereiken van kunstmatige algemene intelligentie (AGI) – AI die kan redeneren, leren en zich kan aanpassen zoals mensen.
De beperkingen van de huidige AI
Bestaande grote taalmodellen (LLM’s), zoals ChatGPT en Google Gemini, vertrouwen op transformatorarchitectuur. Hoewel ze krachtig zijn, hebben transformatoren een fundamentele beperking: ze leren niet continu. Eenmaal getraind blijven hun parameters vast, waardoor herscholing of verfijning nodig is om nieuwe kennis te integreren. Dit betekent dat ze moeite hebben om redeneringen te generaliseren die verder gaan dan de patronen die ze al hebben gezien, in tegenstelling tot het menselijk brein, dat zich voortdurend aanpast en neurale verbindingen versterkt door ervaring.
Hoe Dragon Hatchling verschilt
Dragon Hatchling wil deze beperking overwinnen door de interne structuur dynamisch in realtime aan te passen terwijl het informatie verwerkt. In tegenstelling tot transformatoren, die gegevens opeenvolgend door gestapelde lagen verwerken, gedraagt Dragon Hatchling zich meer als een flexibel web. Kleine ‘neurondeeltjes’ wisselen informatie uit, versterken of verzwakken verbindingen om geleerde kennis vast te houden en toe te passen op toekomstige situaties.
Deze voortdurende aanpassing bootst na hoe menselijke neuronen in de loop van de tijd sterker of zwakker worden, waardoor het model effectief een vorm van kortetermijngeheugen krijgt dat nieuwe input beïnvloedt. In tegenstelling tot traditionele LLM’s wordt dit geheugen niet opgeslagen in trainingsgegevens, maar komt het voort uit voortdurende architecturale veranderingen.
Belangrijkste kenmerken en prestaties
De architectuur van het model is ontworpen om redeneringen te generaliseren die verder gaan dan vooraf getrainde patronen, een aanzienlijke uitdaging voor de huidige AI. In de eerste tests presteerde Dragon Hatchling vergelijkbaar met GPT-2 op het gebied van standaardtaalmodellering en vertaaltaken, ondanks dat het een prototype was. Dit suggereert dat de architectuur het potentieel heeft om te schalen en te concurreren met gevestigde LLM’s.
Implicaties voor AGI
Het vermogen om continu te leren en zich in realtime aan te passen is een cruciale stap in de richting van AGI. De huidige AI heeft moeite met het omgaan met nieuwigheden en faalt vaak als ze wordt geconfronteerd met onverwachte input. De dynamische architectuur van Dragon Hatchling zou deze beperking kunnen overwinnen, waardoor AI kan redeneren, leren en zich kan aanpassen zoals mensen.
Toekomstperspectief
De ontwikkeling van Dragon Hatchling markeert een belangrijke verschuiving in de AI-architectuur. Hoewel dit model zich nog in de beginfase bevindt, demonstreert het de potentie van AI om verder te gaan dan statisch leren en in de richting van een meer dynamische, mensachtige vorm van intelligentie. Verder onderzoek en ontwikkeling zullen van cruciaal belang zijn om de mogelijkheden ervan volledig te ontsluiten en de implicaties ervan voor de toekomst van AI te onderzoeken.
Het vermogen om AI te creëren die leert en zich aanpast zoals het menselijk brein, zou een revolutie teweeg kunnen brengen op terreinen variërend van wetenschappelijke ontdekkingen tot het oplossen van alledaagse problemen. De opkomst van architecturen als Dragon Hatchling suggereert dat het pad naar AGI dichterbij kan zijn dan eerder werd gedacht
