Palantir Technologies-CEO Alex Karp zei donderdag dat toonaangevende AI-labs zoals Anthropic en OpenAI Washington mogelijk de helft van hun bedrijf zouden aanbieden om klantenclaims te ontlopen.
Kernpunten:
- Volgens Karp draait het veiligheidsdebat rond AI vooral om labs die zich willen afschermen voor claims van klanten.
- Hij pleit voor civiele en strafrechtelijke aansprakelijkheid, niet voor extra regels, als eerste rem op AI-ontwikkelaars.
- De uitspraken volgen op de oproep van Dario Amodei op 12 september om de ontwikkeling van frontier-AI af te remmen.
Karp: nationalisatie als uitweg
Karp deed zijn uitspraken in CNBC’s "Squawk on the Street", waar hij zei tegen de presentatoren dat het publiek de strijd rond AI-veiligheid verkeerd begrijpt. Volgens hem wordt het debat afgeschilderd als een gevecht over regelgeving, terwijl dat niet is waar de labs Washington eigenlijk om vragen.
Zijn redenering begint bij de rechter. In zijn visie denken de labs dat "deze bedrijven genationaliseerd moeten worden, want als je ze niet nationaliseert, klaagt elke klant van mij je aan." Karp stelde dat veel van de risico’s ontstaan doordat labs gevoelige bedrijfsdata verwerken en die gebruiken om hun modellen te verbeteren. Alleen Washington kan zo’n groot risico afkappen, zei hij, en hij voegde eraan toe dat ondernemers zelden hardop zeggen wat ze werkelijk willen.
Op de vraag hoe zulke verplichtingen zouden moeten terugkomen in een S-1, het document dat een bedrijf indient vóór een beursgang, betwijfelde Karp of die labs überhaupt wel naar de beurs zouden gaan. De enige uitweg uit "onbeperkte aansprakelijkheid", zei hij, zou zijn om de overheid de helft van het bedrijf te geven. Volgens hem zou dat de waardering vervolgens meerdere keren onderuit halen.
Verder lezen: Tesla zet onthulling van Roadster op 1 oktober af tegen de margerekenkunde van Wall Street
Discussie over aansprakelijkheid splijt topbestuurders
Karp wees toezicht niet volledig af. Hij pleitte voor "redelijke richtlijnen", maar benadrukte dat "de eerste verdedigingslinie is dat je aansprakelijk bent voor je eigen daden." Ontwikkelaars die risico’s negeren die zij al hebben gemeld, zouden civiel- en strafrechtelijk aangepakt moeten worden, zei hij. Beleggers in de labs zijn volgens hem mogelijk "de klos", verwijzend naar een pokeraanwijzing om de zwakke speler te herkennen.
Zijn opmerkingen kwamen enkele dagen nadat Anthropic-CEO Dario Amodei op 12 september een essay publiceerde waarin hij opriep de ontwikkeling aan de grens van AI tijdelijk af te remmen. Die oproep kreeg steun van Sam Altman en Elon Musk. Nvidia-CEO Jensen Huang wierp tegen dat veiligheid "een technisch probleem is, geen juridisch probleem" en dat bestaande marktkrachten voldoende zijn.
Het tijdstip is relevant voor beide labs. Anthropic diende op 1 juni vertrouwelijk een aanvraag in voor een beursgang, enkele dagen nadat een financieringsronde van 65 miljard dollar het bedrijf waardeerde op 965 miljard dollar. Altman heeft inmiddels afgezien van een beursgang van OpenAI dit jaar, met als argument dat er nog te veel veiligheidswerk moet worden verricht.
Palantir ligt al langer overhoop met frontier-labs
De ruzie is niet nieuw. Palantir publiceerde in juni een manifest van negen punten waarin bedrijven werden opgeroepen hun data binnenshuis te houden, en Karp heeft de labs ervan beschuldigd ondernemingsklanten uit te kleden van hun eigen waarde, terwijl ze daar ook nog fors voor laten betalen.
Lees ook: Huawei mikt op AI-systemen met 1 miljoen processoren in offensief tegen Nvidia
