Fredercio Cugurullo, assistant professor Smart & Sustainable Urbanism, Trinity College Dublin
Stel, je bent op weg naar huis. Plots lijkt de grond vóór je open te breken. Een veiligheidsdrone stijgt op uit de kloof en houd je tegen om je identiteit te controleren. Het lijkt misschien vergezocht, maar dit gaat wel degelijk om een bestaande technologie: een drone die ontworpen werd door het AI-bedrijf Sunflower.
Als onderdeel van een internationaal onderzoek naar de impact van AI op onze steden, sneden we onlangs een nieuw onderzoeksgebied aan: AI-stadsontwikkeling. Het gaat hier niet om een smart city-concept. Slimme steden verzamelen informatie via technologie – zoals sensoren – en gebruiken deze gegevens om hun diensten te verbeteren.
AI-stadsontwikkeling is een nieuwe manier om steden te ontwerpen en te besturen met behulp van artificiële intelligentie. Dit betekent een aanzienlijke breuk met de huidige modellen van stadsontwikkeling en -beheer. Hoewel het van vitaal belang is om deze trend nauwlettend op te volgen, moeten we ons eerst afvragen in hoeverre we AI moeten of willen betrekken bij het beheer van onze steden.
De ontwikkeling van AI is nauw verbonden met de evolutie van steden. Het doen en laten van stedelingen vormt een onschatbare input voor alle AI-systemen wereldwijd. De manier waarop we onze auto of fiets besturen, stuurt zelfrijdende auto’s aan. Door wat we eten of kopen, leren de systemen onze voorkeuren te doorgronden. Vermenigvuldig die persoonlijke gegevens met de miljarden mensen die in steden wonen en werken, en je krijgt een idee van de hoeveelheid gegevens die AI-systemen kunnen vergaren.
Preventieve politie
In het traditionele smart city-concept worden technologieën zoals het internet of things gebruikt om het leven van alledag te observeren en te kwantificeren. Zo kan er berekend worden hoeveel energie gebouwen in real-time verbruiken of hoeveel mensen de metro nemen en wanneer. AI-stadsontwikkeling kwantificeert niet alleen die gegevens, het vertelt ook verhalen die uitleggen hoe en waarom bepaalde gebeurtenissen plaatsvinden.
Toegegeven, het gaat hier niet om complexe narratieven, maar ook de simpelste verhalen kunnen verstrekkende gevolgen hebben. Neem bijvoorbeeld het AI-systeem dat werd ontwikkeld door het Amerikaanse bedrijf Palantir en dat wereldwijd in verschillende steden wordt gebruikt. Het systeem voorspelt op welke locaties misdaden zullen plaatsgrijpen en wie erbij betrokken zal zijn. Deze voorspellingen worden door de politie gebruikt om te bepalen waar hun middelen worden ingezet. Daarmee raken we aan één van de meest controversiële discussiepunten omtrent AI: het vermogen om te beslissen wat goed en wat slecht is. ChatGPT is op dat vlak nochtans duidelijk: AI kan gedetailleerde rapporten produceren zonder er de zin van te begrijpen. Het systeem heeft namelijk geen moreel besef. AI kan niet beslissen over goed of kwaad.
Het zijn nochtans net dit soort vragen die we in ons stedelijk beheer overlaten aan AI. Dit levert misschien wel een enorme tijdswinst op voor de beheerders, maar de baten qua sociale rechtvaardigheid zijn enorm.
Een menselijk probleem
Recente studies toonden aan dat AI-gestuurde beslissingen in domeinen als vastgoed etnische minderheden benadelen. Ook op ecologisch vlak kunnen deze systemen een aanzienlijke impact hebben: ze verslinden namelijk energie. AI zal in de komende decennia dan ook in belangrijke mate bijdragen aan de uitstoot van CO2. Daarbovenop vraagt de infrastructuur die nodig is voor een goed functioneren van AI om enorme hoeveelheden materiaal. Daardoor zullen de voorspelde winsten op vlak van duurzaamheid algauw omslaan in een negatieve balans.
Het is hier niet onze intentie om technologie af te schilderen als een monster dat aan alle controle ontsnapt is, zoals in sommige sci-fi films. Het punt dat we willen maken is dat wij, de mens, politieke beslissingen aan het nemen zijn die AI op de plaats zetten van onze besluitvormers. We nemen hen bewust alle beslissingsbevoegdheid uit handen, om die aan een machine te geven. Wereldwijd manifesteren zich nu al op sommige plekken nieuwe steden die volledig door AI zouden worden bestuurd.
Het Neom-project is zo’n voorloper. Het gaat hier om een reusachtige werf in Saoudi-Arabië, die The Line omvat, een lijnstad van 170 kilometer lang op 200 meter breed. The Line wordt volledig AI-gestuurd en wordt voorgesteld als de perfecte incarnatie van een duurzame stadsontwikkeling. In deze steden van de toekomst vind je zelfrijdende transportvoertuigen, keukenrobotica en algoritmen en diensten die in alle menselijke behoeften voorzien. Deze visie spoort met het concept van de autonome stad, waar de mens uit het beheercircuit is weggenomen en van alle sociale functies wordt ontheven.
We mogen niet vergeten dat autonomie een kwestie van communicerende vaten is: naarmate de autonomie van AI stijgt, daalt de onze. Een stad die niet langer bestuurd wordt door mensen van vlees en bloed, zet de autonomie van haar actoren en hun welzijn op de helling.
Wie kan een hypothecaire lening krijgen om een woning te kopen en een gezin te stichten? Wie kan er een levensverzekering afsluiten? Wiens naam staat op de lijst verdachten die de politie in het oog wil houden? AI beïnvloedt vandaag al de antwoorden op deze vragen. Wanneer de autonome stad in de toekomst de dominante werkelijkheid wordt, zou AI wel eens de enige scheidsrechter terzake kunnen worden.
AI heeft steden nodig om haar onverzadigbare honger naar gegevens te stillen. Als burgers moeten we dat spookbeeld van de autonome stad zorgvuldig onder de loep nemen in het kader van een breed publiek debat. En we dienen ons daarbij de simpele vraag te stellen: hebben we AI echt nodig om onze steden duurzaam te maken?
Meer info
F. Cugurullo et al. (2023, november), The rise of AI urbanism in post-smart cities: A critical commentary on urban artificial intelligence, F. Cugurullo & cie, DOI: 10.1177/00420980231203386
Je moet ingelogd zijn om een reactie te plaatsen.