2 min Applications

“Te weinig data in de wereld om GPT-5 te voeden”

“Te weinig data in de wereld om GPT-5 te voeden”

OpenAI’s nieuwe kunstmatige-intelligentieproject, GPT-5, loopt achter op schema. Daarnaast kost de ontwikkeling veel geld. Het is onduidelijk wanneer het zal werken. Mogelijk is er niet genoeg data in de wereld om het slim genoeg te maken.  

Dit meldt The Wall Street Journal. Het project dat officieel GPT-5 heet maar de codenaam Orion draagt, is al meer dan 18 maanden in ontwikkeling. Het moet een grote vooruitgang in de technologie achter ChatGPT zijn. OpenAI’s belangrijkste partner en grootste investeerder, Microsoft, verwachtte dat het nieuwe model rond midden 2024 beschikbaar zou zijn. Dit melden mensen die bekend zijn met de zaak.  

Grote trainingsrondes

OpenAI heeft minstens twee grote trainingsrondes uitgevoerd, die elk maanden duren en enorme hoeveelheden data verwerken, met als doel om Orion slimmer te maken. Bij elke ronde ontstonden nieuwe problemen en bleef de software achter bij de verwachtingen van de onderzoekers. Aldus bronnen dicht bij het project.  

In het beste geval, zeggen zij, presteert Orion beter dan de huidige modellen van OpenAI. Maar de vooruitgang is niet groot genoeg om de enorme kosten van het nieuwe model te rechtvaardigen. Een trainingsronde van zes maanden kan alleen al aan computerkosten zo’n half miljard dollar kosten, op basis van openbare en privéramingen van verschillende aspecten van de training.  

“Grote stap vooruit”

OpenAI-CEO Sam Altman voorspelde dat GPT-5 een “significante sprong vooruit” zal zijn. GPT-5 moet nieuwe wetenschappelijke ontdekkingen mogelijk maken en routinetaken zoals het boeken van afspraken of vluchten uitvoeren. Onderzoekers hopen dat het minder fouten maakt dan de huidige AI, of op zijn minst twijfel kan erkennen. Dat is een uitdaging voor de huidige modellen, die fouten kunnen produceren met een ogenschijnlijke zelfverzekerdheid, bekend als hallucinaties. 

Sinds de lancering van GPT-4 in maart 2023 werkt OpenAI aan GPT-5. Ervaren AI-onderzoekers zeggen dat het ontwikkelen van systemen zoals LLM’s evenveel kunst als wetenschap is. De meest gerespecteerde AI-wetenschappers ter wereld worden geprezen om hun intuïtie om betere resultaten te behalen.  

OpenAI en Microsoft weigerden commentaar te geven voor het artikel in de Amerikaanse krant. In november zei Altman dat de startup in 2024 niets onder de naam GPT-5 zou uitbrengen.