- Published on
De vijf belangrijkste AI-thema's van 2024 en hun impact op investeringen
De vijf belangrijkste AI-thema's van 2024
Tijdens de NeurIPS 2024 conferentie deelden Sarah Guo, oprichter van Conviction Capital, en partner Pranav Reddy hun inzichten over de huidige status van AI-startups. Ze presenteerden een systematisch overzicht van de vijf belangrijkste thema's in de AI-sector in 2024, en bespraken de impact van deze thema's op toekomstige investeringen. Deze thema’s omvatten:
- Toenemende concurrentie in basale modellen: In 2024 is de concurrentie tussen basale modellen intenser dan ooit.
- Snelle vooruitgang van open source modellen: Open source modellen worden steeds competitiever en overtreffen in sommige opzichten zelfs closed source modellen.
- Verbeterde kostenefficiëntie van kleine modellen: Kleine modellen hebben aanzienlijke prestatieverbeteringen geboekt en zijn tegelijkertijd goedkoper, wat resulteert in een betere prijs-kwaliteitverhouding.
- Doorbraken in multimodale technologieën: Multimodale technologieën worden een belangrijke ontwikkelingsrichting voor de toekomst, en bieden gebruikers geheel nieuwe interactieve ervaringen.
- Nieuwe doorbraken in scaling laws: Ondanks de beperkingen van scaling laws, ontstaan er nieuwe uitbreidingsparadigma's, die nieuwe hoop bieden voor de toekomstige ontwikkeling van AI.
De verhevigde concurrentie in basale modellen
De concurrentie in de markt voor basale modellen heeft in 2024 aanzienlijke veranderingen ondergaan. Gegevens van Chatbot Arena laten zien dat de modellen van OpenAI een jaar geleden nog een leidende positie in prestaties hadden, terwijl nu andere bedrijven zoals Google ook concurrerende modellen hebben geïntroduceerd. Open source modellen maken ook voortdurend vooruitgang, waardoor bedrijven meer keuzemogelijkheden hebben bij het selecteren van API's.
- Afname van het tokenverbruik van OpenAI: Eind november vorig jaar was het tokenverbruik van OpenAI bijna 90% van het totaal, maar nu, minder dan een jaar later, is dit aandeel gedaald tot bijna 60%. Dit geeft aan dat gebruikers verschillende modellen aan het uitproberen zijn.
- De opkomst van open source modellen: Onafhankelijke evaluaties door de SEAL-ranglijst tonen aan dat open source modellen uitblinken in wiskundige vaardigheden, het volgen van instructies en robuustheid tegen aanvallen. De Llama-modellen behoren zelfs tot de top drie.
De snelle vooruitgang van open source modellen
Open source modellen hebben op verschillende gebieden een indrukwekkende snelheid van vooruitgang laten zien. Uit de MMLU-evaluatie blijkt dat sommige open source modellen met kleinere parameters qua prestaties al in de buurt komen van de meest geavanceerde modellen. Een jaar geleden scoorde het beste kleine model, Mistral-7b, ongeveer 60 in deze evaluatie, terwijl het Llama 8B-model nu meer dan 10 punten hoger scoort.
Kleine modellen bieden een betere prijs-kwaliteitverhouding
De kloof tussen kleine en grote modellen wordt steeds kleiner en de prijzen van AI-intelligentie dalen aanzienlijk. De API-kosten van het vlaggenschipmodel van OpenAI zijn in de afgelopen anderhalf jaar met ongeveer 80-85% gedaald. Dit betekent dat de kosten voor het bouwen van toepassingen met AI aanzienlijk zijn gedaald.
- Lagere kosten voor het bouwen van AI-applicaties: De tokenkosten voor het bouwen van applicaties zoals Notion of Coda met behulp van AI bedragen slechts enkele duizenden dollars.
Multimodale technologieën zijn de toekomst
Multimodale technologieën worden een belangrijke ontwikkelingsrichting in het AI-domein. De opkomst van nieuwe modaliteiten zoals spraak met lage latentie, uitvoeringsmogelijkheden en video biedt gebruikers een geheel nieuwe interactieve ervaring.
- Verbeterde spraakinteractie-ervaring: Spraak met lage latentie is niet alleen een functie, maar ook een geheel nieuwe interactie-ervaring.
- Verbeterde AI-uitvoeringsmogelijkheden: De computergebruik-mogelijkheden van Claude en de code-uitvoeringsfunctie die OpenAI in Canvas heeft geïntroduceerd, bieden gebruikers krachtigere AI-mogelijkheden.
Nieuwe doorbraken in scaling laws
Hoewel scaling laws beperkingen kennen, ontstaan er nieuwe uitbreidingsparadigma's. OpenAI lijkt een manier te hebben gevonden om de beperkingen van scaling laws te doorbreken en de prestaties van modellen te verbeteren met behulp van technologieën zoals RL self-play.
Een rationeler AI-investeringsklimaat
Ondanks de opvatting dat er een zeepbel in de AI-sector is, is het in werkelijkheid zo dat er grote bedragen naar laboratoria voor basale modellen gaan, terwijl de geldstroom naar daadwerkelijke operationele bedrijven relatief redelijk is.
- De waarde van de applicatielaag wordt onderschat: In het verleden werd algemeen aangenomen dat basale modellen waardevoller waren, en dat de applicatielaag geen waarde had. Maar in werkelijkheid zijn de kansen in het AI-ecosysteem zeer groot en is er ook veel potentieel in de applicatielaag.
Enorme kansen voor startups
De kansen in het AI-ecosysteem reiken verder dan alleen basale modellen. Ook de applicatielaag biedt een enorm potentieel. Er zijn talloze innovaties, verschillende soorten modellen hebben hun eigen sterke punten, de concurrentie op de markt is hevig en er is een bloeiende ontwikkeling van open source projecten.
- Serviceautomatisering: AI kan veel repetitieve taken automatiseren, de kosten verlagen en de efficiëntie verbeteren.
- Betere zoekrichtingen: AI kan gebruikers helpen beter te zoeken en informatie te verkrijgen, en een meer gepersonaliseerde ervaring bieden.
- Democratisering van vaardigheden: AI democratiseert diverse vaardigheden, waardoor meer mensen kunnen deelnemen aan creatie en innovatie.
Investeringsrichtingen in de AI-golf
AI Infra (rekenkracht en data) is een belangrijke investeringsrichting in de AI-golf. Met de ontwikkeling van AI-technologie neemt ook de vraag naar expertdata en meer soorten data toe.
Het tijdperk van "Software 3.0" breekt aan
Kortom, we gebruiken "Software 3.0" om deze reeks veranderingen samen te vatten. We geloven dat dit een heroverweging van de gehele stack is, die een enorm voordeel zal opleveren voor een nieuwe generatie bedrijven. De snelheid van verandering is gunstig voor startups.
- Heroverweging van producten en infrastructuur: We moeten de manier waarop producten worden ontworpen en de manier waarop infrastructuur wordt gebouwd heroverwegen om ons aan te passen aan het nieuwe AI-paradigma.
- Enorme technologische en economische kansen: AI brengt enorme technologische en economische kansen met zich mee die we moeten grijpen.
De strijd tussen startups en giganten
Zullen de vruchten van de overwinning uiteindelijk naar startups of naar gevestigde giganten gaan? Hoewel giganten distributiekanalen en data-voordelen hebben, kunnen startups concurreren met betere producten en innovatieve businessmodellen.
- Het dilemma van de innovator: Bestaande bedrijven kunnen worden beperkt door het dilemma van de innovator, terwijl startups bestaande modellen kunnen uitdagen met nieuwe gebruikerservaringsparadigma's en het genereren van code.
- Het belang van data: Startups moeten nadenken over welke data ze nodig hebben om de kwaliteit van hun producten te verbeteren, in plaats van alleen afhankelijk te zijn van de data van bestaande bedrijven.