Machines die wapens hanteren. Geen sciencefiction meer. Gewoon wachten om de hoek.
De kloof tussen verbeelding en werkelijkheid wordt snel kleiner.
Stichting Future Industries test haar Phantom -robots al in Oekraïne. Ze zijn gevestigd in de VS en bouwen humanoïden voor zowel commerciële als militaire markten. Het plan? Ga volgend jaar over op bewapende gebruiksscenario’s. Dat beweert althans de CEO.
Sankaet Pathak ziet dit niet als The Terminator. Niet echt.
“Ik denk dat we een psychologische reactie hebben… maar de realiteit… zo is het niet echt”, vertelde hij aan Euronews.
Hij pleit tegen de chaos van mensachtige legioenen. Waarom robots sturen om verwoesting te veroorzaken als een bom goedkoper is? Het heeft geen zin. In plaats daarvan wijst hij op precisie. Voorkom schade aan burgers. Reserve-infrastructuur. Voer de complexe taken uit die luchtbombardementen eenvoudigweg niet kunnen uitvoeren.
Grondoorlog wordt lelijker
Pathak verwacht niet dat mensachtigen drones zullen vervangen. Hij ziet ze een gat vullen. Grondgevechten worden gevaarlijk. Te gevaarlijk voor mensen.
Humanoïden hebben alleen zin als het bij je missie om precisie gaat… om ervoor te zorgen dat je geen burgers verwondt of gebouwen vernietigt terwijl je complexe doelstellingen uitvoert.
Het is de volgende fase van precisieoorlogvoering. Over het algemeen goed, denkt hij. Hoewel misschien niet voor iedereen.
Er zijn nog geen specifieke verdragen voor deze robots. Zij vallen onder het bestaande internationaal humanitair recht. Onderscheid tussen strijder en burger. Die regel geldt nog steeds. Of probeert dat.
VN-secretaris-generaal Antonio Guterres maakt zich zorgen. Specifiek over dodelijke autonome wapens. Hij noemde ze onlangs op LinkedIn ‘Killer-robots’.
Machines die doelen kiezen. Het leven nemen. Geen mens in de kring.
De VN onderhandelt sinds 2023 over een verdrag over Lethal Autonomous Weapon Systems (LAWS). Het doel is een bindend verbod in 2026 op systemen zonder menselijke controle. Guterres wil het.
Pathak? Hij is niet verbijsterd.
Waarom mensachtigen anders behandelen dan bewapende drones of onbemande grondvoertuigen? Ze bestaan al.
AI voorspelt de fysieke wereld
Deze robots draaien op eigen wereldmodellen. Leveranciers blijven geheim.
Vergeet chatbots die tekst voorspellen. Deze systemen bouwen representaties van de ruimte. Ze leren van video. Simulatiegegevens. Ze modelleren hoe objecten in de loop van de tijd bewegen. Voorspellen wat er daarna gebeurt.
We zijn sterk gefocust op wereldmodellen… dat zal de kern vormen van intuïtieve, robuuste AI.
Zou AI de controle over de robots overnemen? Pathak zegt nee. Hij denkt dat een malafide AI de tweevoeters volledig zou overslaan. Er zou gebruik worden gemaakt van drones. Of nucleaire arsenalen. Voor het vernietigen van de mensheid zijn geen 100.002 wandelende metalen pakken nodig.
Het echte gevaar dat hij ziet is AI-terrorisme. Cyberaanvallen. Desinformatie. Consumentendrones hacken met open source-tools.
Meta’s Llama 2 werd gelanceerd in 2023. Ongecensureerde versies volgden dagen later. Mensen vroegen hoe ze kernbommen moesten bouwen. Het model antwoordde.
Pathak geeft toe dat open source-modellen risico’s voor de veiligheid met zich meebrengen. Iedereen kan ze aanpassen. Beveiligingen verwijderen. Maar totaal verlies van controle? Zelfreplicatie zonder enorme rekenkracht? Wij zijn er niet.
‘We zijn waarschijnlijk drie, vier, misschien vijf stappen verwijderd’, zegt hij.
Dichtbij? Misschien. Onmiddellijk? Nee.
Phantom wordt sterker
Zelfs ongewapend hebben deze bots een doel.
Materiaalbehandeling. Benodigdheden binnen en buiten verplaatsen. Verkenning. Gebouwen opruimen. Interieurs in kaart brengen. Deze tests vonden plaats in Oekraïne.
De oorlogsomgeving dwong een herontwerp af. Moeilijker. Dichter.
Betreed Phantom 2.
- Waterdicht en stofdicht
- Het laadvermogen stijgt naar ongeveer 80 kg (van 25 tot 30 kg)
- Valtolerantie bedraagt bijna 100 Gs (was 12–15)
- Aangedreven door een batterij van 3 kilowattuur
Op de investeerderslijst staat Eric Trump. Streep. Definieer ondernemingen. Anderen ook.
Prijskaartjes zijn steil. Militaire kopers betalen ongeveer wat commerciële gebruikers leasen. Jaarlijks ongeveer $100.000 per robot.
Dat zijn de kosten van de toekomst die vroeg arriveert.
Is precisie van belang als de infrastructuur weg is?
Als de missie precisie is… schade aan de infrastructuur vermijden.
