Palantir Technologies-topman Alex Karp zei donderdag dat toonaangevende AI-labs als Anthropic en OpenAI Washington mogelijk de helft van hun bedrijf zouden moeten afstaan om aanklachten van klanten te ontlopen.
Kernpunten:
- Karp stelt dat het debat over AI-veiligheid in feite draait om bescherming tegen rechtszaken van klanten.
- Hij wil als eerste rem op AI-ontwikkelaars civiele en strafrechtelijke aansprakelijkheid, niet nieuwe regels.
- Zijn opmerkingen volgen op Dario Amodei’s oproep van 12 september om de ontwikkeling van frontier-AI te vertragen.
Karp: nationalisering als uitweg uit claims
Karp deed zijn uitspraken in CNBC’s "Squawk on the Street", waar hij zei dat het publiek het gevecht rond AI-veiligheid verkeerd begrijpt. Het wordt volgens hem neergezet als een strijd over regulering, maar daarmee gaat voorbij aan wat de labs Washington in werkelijkheid vragen te doen.
Zijn redenering begint bij de rechter. Volgens Karp zijn de labs ervan overtuigd dat "deze bedrijven genationaliseerd moeten worden, want als je ze niet nationaliseert, klaagt elke klant van mij je aan." Karp betoogde dat een groot deel van het risico ontstaat doordat labs gevoelige gegevens van zakelijke klanten opnemen en daarmee hun modellen verder trainen. Alleen Washington kan zo’n groot risico afkappen, zei hij, eraan toevoegend dat ondernemers zelden hardop zeggen wat ze echt willen.
Op de vraag hoe zulke verplichtingen zouden verschijnen in een S-1, het document dat een bedrijf indient voorafgaand aan een beursgang, vroeg Karp zich af of die labs überhaupt wel ooit naar de beurs zullen gaan. De enige uitweg uit "onbeperkte aansprakelijkheid" zou zijn om de overheid de helft van het bedrijf te geven, waarschuwde hij — een stap die de waarde van zo’n onderneming volgens hem meerdere malen zou doen kelderen.
Verder lezen: Tesla zet onthulling van de Roadster op 1 oktober af tegen de margerekenen van Wall Street
Debat over AI-aansprakelijkheid verdeelt bestuurders
Karp wees toezicht niet volledig af. Hij pleitte voor "redelijke richtlijnen", maar benadrukte dat "de eerste verdedigingslinie is dat je aansprakelijk bent voor je eigen handelen". Ontwikkelaars die risico’s negeren die zij eerder al hebben gemeld, zouden volgens hem zowel civiel als strafrechtelijk moeten worden aangepakt. Beleggers in de labs zijn mogelijk "de klos", suggereerde hij, verwijzend naar een pokerregel om slachtoffers te herkennen.
Zijn opmerkingen kwamen enkele dagen nadat Anthropic-topman Dario Amodei op 12 september een essay publiceerde waarin hij de sector opriep de ontwikkeling aan de frontier te vertragen. Die oproep kreeg steun van Sam Altman en Elon Musk. Nvidia-topman Jensen Huang wierp tegen dat veiligheid "een technisch probleem is, geen juridisch probleem", en stelde dat de marktmechanismen al voldoende prikkels bieden.
De timing is voor beide labs relevant. Anthropic diende op 1 juni vertrouwelijk een aanvraag in voor een beursgang, enkele dagen nadat een financieringsronde van 65 miljard dollar het bedrijf waardeerde op 965 miljard dollar. Altman heeft sindsdien afgezien van een beursgang van OpenAI dit jaar, met als reden dat het veiligheidswerk nog niet af is.
Palantir ligt al langer overhoop met frontier-labs
De strijd tussen beide kampen dateert niet van deze week. Palantir publiceerde in juni een manifest met negen punten waarin bedrijven werden opgeroepen hun eigen data intern te houden. Karp heeft de labs er daarnaast van beschuldigd ondernemingsklanten waarde te onttrekken aan hun eigen data, terwijl zij daarvoor ook nog eens te veel zouden betalen.
Volgende artikel: Huawei mikt op AI-systemen met 1 miljoen processors in offensief tegen Nvidia
