„A mesterséges intelligencia fejlesztői által felvázolt jövőkép szerint egyre több munkát lehet majd részben vagy egészében automatizálni, aminek eredményeképpen nő a jólét és a termelékenység. Csakhogy maga a tudás nem automatizálható, hiszen lényegét tekintve társadalmi termék: párbeszéd, vita, intézményi versengés és kollektív együttműködés eredménye. A tudás az emberi interakciók hálójában létezik, és a mesterséges intelligencia is csak addig tudja használni, amíg létezik az emberi interakciók gazdag szövete” – olvassuk az Ideas Letter hasábjain Bright Simons ghánai techguru és politikai elemző tudományfilozófiai tanulmánynak beillő esszéjét.
A techoptimisták reményei szerint a mesterséges intelligencia nemcsak a rutinfeladatok kiváltására alkalmas, hanem jelentősen hozzájárulhat az emberiség tudásának bővítéséhez is. Nemcsak álmodozó techguruk, de komoly tudósok is úgy gondolják, hogy a MI kognitív képességek terén már az emberrel vetekszik.
Simons nem vitatja a mesterséges intelligencia előnyeit. Elismeri, hogy az MI rendkívül hasznos az egyéni tudás bővítésében, és jelentősen megkönnyíti számos feladat elvégzését azáltal, hogy szintetizálja az amúgy nehezen áttekinthető ismereteket és megvilágítja a bonyolult összefüggéseket.
A modell azonban csak addig működik hatékonyan, amíg létezik az emberi tudás bonyolult szövete. Csakhogy a mesterséges intelligencia terjedése könnyen felszámolhatja az alapjául szolgáló társadalmi tudást – figyelmeztet Simons. Az MI rendkívül hatékonyan összefoglalja a meglévő tudást, de újat nem tud létrehozni. Egyrészt kutatások bizonyítják, hogy a mesterséges intelligencia leegyszerűsítései kiszűrik az olyan elméleteket és megfigyeléseket, amelyek nem illenek bele az uralkodó paradigmákba. Márpedig éppen ezek az anomáliák és a fennálló tudományos konszenzustól idegen, újszerű kérdésfelvetések a tudományos forradalmak kiindulópontjai.
Másrészt minél inkább az MI által szintetizált tudásra hagyatkozunk, annál inkább elveszítjük a kritikai vizsgálódás képességét, és annál kevésbé leszünk képesek megérteni a szintézis alapjául szolgáló bonyolult vitákat és dilemmákat – jegyzi meg Simons. Ez pedig az egyén elbutulásához vezet. Különösen igaz ez akkor, ha a mesterséges intelligencia betanítására szintetikus, vagyis MI által előállított szöveget használunk. Sőt, talán már igazi tudományos viták sem lesznek, ha teljesen a mesterséges intelligenciára hagyatkozunk. Márpedig a korszakalkotó tudományos felismerések sokkal inkább az ilyen kollektív, társadalmi tudásinfrastruktúrából születnek, mintsem magányosan kutató egyéni zsenik munkűájából. Andrew Peterson MI-szakértő ennél is tovább megy: A mesterséges intelligencia szűk spektrumra szorítja össze a tudást, a következő lépésekben pedig az így létrejövő eredmények sokaságát egyre szűkebb spektrumokra összpontosítja. Így a tudás egyre nagyobb része vész el. Peterson attól tart, hogy emiatt a mesterséges intelligencia hosszú távon egyenesen tudásösszeomláshoz vezethet.