„Az új technológia azt ígéri, hogy megjósolja a problémákat, és egyúttal elfogulatlan megoldási javaslatokat dolgoz ki rájuk. A kormányzás így puszta folyamatirányítássá válhat” – írja Adrian Lobe a Süddeutsche Zeitungban az algoritmikus döntéshozás illetve a mesterséges intelligencia társadalmi felhasználása kapcsán.
A statisztikai előrejelzések nem újkeletűek. A hatóságok és az állam mindig is statisztikai adatok felhasználásával igyekezett modellezni a társadalmi folyamatokat. A szoftveres prediktív algoritmusok pedig már régóta mindennapjaink részei. A szövegszerkesztő képes automatikus hibajavításra, a mobiltelefonok szöveges üzenetek gépelésekor néhány betű után jól meg tudják tippelni, hogy milyen szót akarunk leírni, az internetes vásárlási oldalak pedig keresési statisztikánk alapján személyre szabott hirdetésekkel bombáznak.
Az egyre népszerűbb prediktív rendvédelemnek azonban sokkal nagyobb a tétje. Lobe felidézi, hogy egyre több kormány kacérkodik úgynevezett megoldások bevezetésén. Chicago városvezetése szoftver segítségével igyekszik előre jelezni az éttermek esetleges higiénés problémáit. A súlyos forráshiánnyal küzdő brit önkormányzatok mesterséges intelligencia felhasználásával igyekeznek azonosítani a bántalmazott gyerekeket. New Orleans rendőrsége a város tanácsának tudta nélkül tesztelt egy programot, amely azt próbálta megtippelni, hogy kiből lesz visszaeső bűnöző. Hasonló prediktív modellező szoftvereket használnak a katasztrófavédelemben, sőt a német hadsereg is a mesterséges intelligenciától reméli a jövőbeli válságok és háborúk előrejelzését. A Deloitte hitelminősítő tavalyi tanulmánya azt jósolja, hogy a mesterséges intelligencia segítségével egyszer beköszönt az anticipatív kormányzás kora.
A prediktív rendvédelem hívei csakúgy, mint az algoritmusok segítségével történő kormányzás támogatói azzal érvelnek, hogy a nagy adatbázisokkal dolgozó mesterséges intelligencia elfogulatlan döntéseket hoz. Mindez veszélyes illúzió – véli Lobe, minthogy az algoritmusok valóban ugyanazt a szabályt alkalmazzák minden esetben, csakhogy a szabályt a programozók határozzák meg, tehát szó sincsen objektivitásról. Az algoritmusok valóban depolitizálják a döntéseket, ám ettől még nem lesznek elfogulatlanok, csak éppen kevésbé átláthatók és antidemokratikusak – írja Lobe. Mint arról a City Lab magazin beszámol, a prediktív rendvédelemben közreműködő magánvállalatok gyakorlata adatvédelmi szempontból is rendkívül aggályos, de ennél is súlyosabb probléma, hogy az elvben elfogulatlan algoritmusok programozóik sztereotípiáinak és előítéleteinek foglyai.
És akkor még nem is szóltunk arról, hogy milyen lehetőségeket kínál a technológia az állampolgárok felett teljes kontrollt gyakorolni óhajtó autoritárius és a nyíltan diktatórikus kormányok számára. Nem véletlen, hogy több amerikai város betiltotta például a közterületi hatósági arcfelismerő szoftverek használatát, és az Európai Unió is hasonló tiltást tervez. Klasszikus dilemma ez: ahol attól kell félni, hogy az így megszerzett adatokat törvénytelenül használják fel, ott amúgy is baj van már.