Apple onderzoekt technologie van PrismML om grote AI-modellen op de iPhone te draaien

Apple voert vroege gesprekken met PrismML, een spin-off van Caltech die wordt gesteund door Khosla Ventures. Het gaat om technologie die krachtige AI-modellen zo sterk kan comprimeren dat ze rechtstreeks op een iPhone kunnen draaien. CEO Babak Hassibi van de startup bevestigde de gesprekken tegenover CNBC. Hij omschreef ze als "very early" met een onzekere uitkomst, maar voegde eraan toe dat "things are progressing nicely."

Wat PrismML zegt te hebben ontwikkeld

De kerntechniek van PrismML vereenvoudigt drastisch hoe AI-modellen interne informatie opslaan. Elke waarde wordt teruggebracht van 16 bits naar slechts één of drie mogelijke waarden. Toegepast op het open-source Qwen-model van Alibaba zegt de startup het model te hebben gecomprimeerd van ongeveer 54 GB naar minder dan 4 GB. Dat is klein genoeg om alle 27 miljard parameters op een iPhone 15 of nieuwer te laten passen.

Volgens het bedrijf gebruiken de gecomprimeerde modellen tien tot vijftien keer minder geheugen, genereren ze antwoorden zes tot acht keer sneller en verbruiken ze drie tot zes keer minder energie dan standaardversies op bestaande hardware. Er is wel een nadeel: PrismML erkent dat zijn modellen doorgaans een paar procentpunten aan algehele prestaties inleveren. Feitelijke kennis verslechtert daarbij eerder dan hogere vaardigheden zoals redeneren en programmeren.

Op dinsdag bracht de startup twee gecomprimeerde versies van het Qwen-model publiekelijk uit, bedoeld voor iPhones, MacBooks en pc's met Nvidia-chips. Het Gemma-model van Google staat als volgende op de planning.

Wat dit betekent voor Apples AI-strategie

De timing is opvallend. Apple opende de publieke bèta van iOS 27 de dag vóór de aankondiging van PrismML. Daarmee kregen iPhone-gebruikers voor het eerst brede toegang tot de vernieuwde Siri — een langverwacht initiatief om de assistent concurrerender te maken met diensten van OpenAI en Anthropic.

Meer AI rechtstreeks op het apparaat laten draaien vermindert de vertraging van verzoeken naar externe servers, verlaagt de kosten voor cloudcomputing en versterkt Apples privacyargument. Apple verwerkt al een deel van de taken lokaal — zoals vertaling, bepaalde samenvattingsfuncties en functies die aan persoonlijke gegevens zijn gekoppeld — terwijl complexere verzoeken naar de eigen privécloud of modellen van derden worden doorgestuurd. Als de technologie van PrismML wordt gevalideerd, zou een groter deel van die complexe taken naar het apparaat zelf kunnen verschuiven.

Analist Carolina Milanesi van Creative Strategies merkte op dat kleinere modellen op het apparaat zelf veeleisendere functies mogelijk kunnen maken, waaronder videogeneratie en gezondheidstoepassingen die gevoelige persoonlijke gegevens verwerken. Horace Dediu van Asymco voegde daaraan toe dat Apples voordeel ligt in het gezamenlijk ontwerpen van chips en software, waardoor het bedrijf nauwere controle heeft over hoe AI op de iPhone werkt.

Analisten stellen kritische vragen

Onafhankelijke analisten waren voorzichtig over de claims van PrismML. Tarun Pathak van Counterpoint Research zei dat de werkelijke prestaties over miljoenen zoekopdrachten, uiteenlopende apparaatcombinaties en situaties waarbij meerdere apps tegelijk draaien de echte test zullen zijn. Phil Solis van IDC wees op het batterijverbruik als een belangrijke onbekende: een model dat krachtig genoeg is om regelmatig of continu op de achtergrond te draaien, kan een telefoon leegzuigen — ook als het minder geheugen nodig heeft.

Ook de bredere marktgevolgen zijn omstreden. Morgan Stanley schat dat Apples gemiddelde geheugenkosten per bit in het fiscale jaar 2027 met ongeveer 190% jaar op jaar kunnen stijgen. Het bedrijf verwacht dat de vanafprijs van de iPhone 18 met ongeveer $200 zal stijgen om de marges te beschermen. De compressieaanpak van PrismML zou in theorie de geheugenbehoefte kunnen verminderen. Analisten van D.A. Davidson stelden echter dat kleinere modellen de vraag naar chips niet doen verdwijnen; die vraag verschuift mogelijk simpelweg van datacenters naar apparaten. Efficiëntiewinst kan bovendien het gebruik stimuleren, waardoor de totale chipuitgaven gelijk blijven of zelfs stijgen.

Het aandeel Apple daalde dinsdag met 0,9%. De gemiddelde analistenaanbeveling staat momenteel op Buy, met een gemiddeld koersdoel van $315,57 tegenover een huidige koers van $317,31.

Hoe vond je dit artikel?