Ontmoet de AI-assistenten die taken voor je automatiseren
Plus: Meta's grootste open-source taalmodel; datacenters verhuizen voor AI-training
De AI-wereld ontwikkelt zich razendsnel, en wij, de makers van de podcast Poki, houden je op de hoogte. Twee keer per week de nieuwste AI-ontwikkelingen, tools, use cases en onderzoek.
🗞️ Het belangrijkste nieuws
Meta komt deze week met het grootste open-source taalmodel ooit
Volgens een medewerker van Meta komt deze week het nieuwste en grootste model in de Llama-familie uit: Llama 3-405b. Met 405 miljard parameters is dit niet alleen het grootste model dat Meta ooit heeft vrijgegeven, maar ook het krachtigste open-source AI-model tot nu toe. Dit is het derde model in de Llama 3-reeks.
Hoe groot is dit model?
Vergeleken met de eerder uitgebrachte modellen van de Llama 3-serie is dit model aanzienlijk groter.
Llama 3-8b: draait op een gemiddelde gaming-pc, soms zelfs op de beste smartphones.
Llama 3-70b: vereist serieuze hardware, maar ligt nog binnen het bereik van fanatieke hobbyisten. Met een paar high-end grafische kaarten bedoeld voor gamen is dit model te draaien.
Llama 3-405b: heeft sterke grafische kaarten nodig die specifiek voor deze AI-toepassingen ontwikkeld zijn. Je hebt het hier al snel over tienduizenden euro’s.
Hoe goed is dit model?
Een paar maanden terug heeft Llama voorlopige testresultaten gedeeld, nog voordat het model volledig klaar was met trainen. Hieronder zijn deze te zien:
Hoewel deze cijfers niet alles zeggen, geven ze wel een goede indicatie. MMLU is uitgelicht in de afbeelding, aangezien deze score een goede indicatie geeft van het ‘intelligentieniveau’ van dit model. Deze eerste inzichten geven aan dat Llama 3-405b redelijk lijkt mee te komen met de grote jongens: GPT-4o, Claude 3.5 Sonnet en Gemini 1.5 Pro.
Het uitbrengen van een model van dit formaat heeft ook flinke implicaties. Er is nog nooit een model met deze capaciteiten beschikbaar gemaakt om volledig lokaal te draaien zonder enige vorm van controle, wat gepaard gaat met verschillende voor- en nadelen.
Voordelen van een grootschalig open-source taalmodel
Intern implementeren: organisaties kunnen deze modellen op hun eigen servers draaien, wat betekent dat gevoelige informatie veilig verwerkt kan worden zonder afhankelijk te zijn van externe partijen.
Onderzoekers en ontwikkelaars kunnen deze modellen verder finetunen en aanpassen voor specifieke toepassingen.
Potentiële nadelen en risico’s
Misbruik: het model kan worden toegepast voor schadelijke doeleinden. Denk hierbij aan phishing op grote schaal, of het verspreiden van desinformatie.
De grens tussen werkelijk geschreven en ongeschreven online AI-content verdwijnt meer en meer. Botaccounts op sites als Twitter, YouTube en Reddit zullen steeds moeilijker van echte accounts te onderscheiden zijn.
Economische impact: de drempel om AI-modellen die taken overnemen van gebruikers lokaal te draaien, wordt steeds lager. Dit zal zeker ook voordelen hebben, maar er is een gerede kans dat bepaalde taken van werknemers overgenomen gaan worden.
AI-training drijft datacenters naar afgelegen locaties
Naast verschillende ethische vraagstukken rond het gebruik van AI is er nog een ander groot probleem: de hoeveelheid energie die nodig is om een AI-model te trainen is immens. NVIDIA-CEO Jensen Huang pleitte onlangs voor het verhuizen van datacenters naar afgelegen gebieden vanwege deze energiekwestie.
Waarom afgelegen datacenters?
Energietoevoer: AI-training vergt enorme hoeveelheden energie. Afgelegen locaties bieden vaak toegang tot goedkope, hernieuwbare energiebronnen.
Netwerkvertraging is niet relevant: anders dan bij veel andere computertaken is dit bij AI-training geen kritieke factor.
Milieu-impact: door gebruik te maken van hernieuwbare energie op locatie kan de CO2-voetafdruk worden verkleind.
Voorbeelden en trends:
In Australië heeft NEXTDC een datacenter geopend in Port Hedland, een afgelegen stad met slechts 16.000 inwoners.
China’s ‘Eastern Data and Western Computing’-beleid stimuleert de verplaatsing van datacenters naar het westen van het land, waar hernieuwbare energie in overvloed is.
Uitdagingen:
De bouw en het onderhoud in afgelegen gebieden kunnen lastig zijn door een beperkte toegang tot geschoolde arbeidskrachten.
Extreme weersomstandigheden in sommige gebieden vereisen aangepaste koelsystemen.
Er zijn zorgen over de mogelijke vestiging in landen met minder strenge milieuregels.
Disney gehackt door ‘AI-activisten’
Hacktivist-groep NullBulge heeft toegang verkregen tot de Slack-omgeving van Disney en lekte meer dan 1 TB aan interne data, inclusief details over niet-uitgebrachte projecten.
De hackers zeggen te protesteren tegen Disneys AI-beleid en de behandeling van artiesten. Ze uiten hun zorgen over de impact van AI op creatieve beroepen en eisen een eerlijkere compensatie voor kunstenaars.
Disney heeft bevestigd dat ze de hack onderzoeken, maar heeft nog niet gereageerd op de specifieke beschuldigingen over hun AI-praktijken.
Jij wilt weten hoe je AI kunt inzetten in je werk en je leven.
Neem ons betaalde abonnement en krijg 2x per week exclusieve tips en tricks.
Vandaag:
Drie AI-assistenten die jou helpen om je taken te automatiseren
Keep reading with a 7-day free trial
Subscribe to AI Report to keep reading this post and get 7 days of free access to the full post archives.