Nyomtatás

Az automatizálás paradoxona

2016. október 13.

Minél inkább a gépekre hagyatkozunk, annál jobban visszafejlődnek képességeink, és annál kevésbé leszünk képesek korrigálni a gépek hibáit. A közgazdász-író szerint a biztonság erősítéséhez egy kis káosz és rendetlenség szükségeltetik.

„Egyre inkább számítógépekre bízzuk a repülőgépek irányítását, csakúgy, mint a biztonsági ellenőrzéseket. Hamarosan az autóvezetést is rájuk hagyjuk. De vajon nem tompulnak el képességeink, ha túlzottan az önműködő gépekre hagyatkozunk?” – kérdezi Tim Harford közgazdász a Guardianben. 

Harford arra figyelmeztet, hogy az automatizálásnak is komoly mellékhatásai lehetnek képességeinkre. Az automatizáció paradoxona abban áll, hogy minél inkább a gépekre bízzuk magunkat, annál inkább elsorvadnak szellemi és fizikai képességeink. Nemcsak függeni fogunk a gépektől, de kiszolgáltatottá is válunk. A gépek ugyanis meghibásodhatnak, ám gyakorlat híján nem leszünk képesek korrigálni a hibáikat. Minél inkább a gépekre hagyatkozunk, annál inkább elveszítjük a felülbírálásukhoz szükséges tudást. És minél ritkábban hibásodnak meg, annál valószínűbb, hogy az ilyen esetekben igazán nagy baj történik. Akár emberélet is odaveszhet – mint ahogyan azt a robotpilóta meghibásodásából és a pilóták elkényelmesedéséből fakadó légi katasztrófák mutatják.

Harford felidézi Hans Mondermannak a közlekedési balesetek csökkentése érdekében kidolgozott modelljét. Szemben az általános gyakorlattal, Monderman a közlekedési táblák és szabályok felszámolásával igyekezett biztonságossá tenni a balesetveszélyes útszakaszokat. Ténykedését siker koronázta: a táblák híján elbizonytalanodó vezetők jóval elővigyázatosabbá váltak. A szabályok nyújtotta hamis biztonságérzet csökkent, minek hatására a vezetők egymásra figyeltek, és nem autopilóta üzemmódban, a táblákra hagyatkozva közlekedtek, ami a balesetek számának csökkenését idézte elő.

Harford az automatizálás nemkívánatos hatásait is ebben a szellemben orvosolná. Mint október elején megjelent könyvében kifejti, az emberi képességek kibontakoztatásához és a kreativitáshoz rendetlenség, felfordulás, káosz szükségeltetik: ha a dolgok rendben vannak, akkor problémamegoldó-képességünk ellustul. Ezt csak akkor tudjuk elkerülni, ha állandóan edzésben tartjuk magunkat. Nem szabad átadnunk az irányítást a gépeknek, inkább csak arra kellene használnunk őket, hogy korrigálják a hibáinkat. A meteorológusok példáját kellene követnünk, akik először maguk értelmezik az időjárási adatokat, és csak aztán nézik meg a számítógépes előrejelzést. Ezért Harford az autó irányítását sem bízná a számítógépre. Azt javasolja, hogy maradjon minden a régiben, az ember vezesse a járművet, a gép pedig csak felügyelje a folyamatot, és akkor avatkozzon be, ha a vezető hibázik, és veszélyt okoz. Ez sokkal kevésbé kockázatos, mintha az ellustult humán vezetőtől várnánk az olyan vészhelyzetek megoldását, amelyeket a számítógép már nem tud kezelni.