З розвитком технологій штучного інтелекту (ШІ) точиться багато суперечок про те, як вони змінять світ довкола нас. Але не менш, а можливо, й більш важливе питання полягає в тому, як ШІ змінить нас самих?
Цікава стаття в The Atlantic піднімає саме цю тему. Центральна теза: люди неминуче антропоморфізують (приписують людські риси) усе, що поводиться подібно до людини. З ШІ-агентами ми робитимемо те саме – і вже робимо: багато хто вважає свого чат-бота справжнім компаньйоном, майже другом.
Але тут є несподіваний і тривожний наслідок: що більше ми “олюднюємо” машини, то менше людяності бачимо в людях. Коли ШІ стає “майже людиною”, межа розмивається – і наша оцінка реальних людей знижується. Ми починаємо дегуманізувати колег, друзів, незнайомців – непомітно, потроху.
Друга теза не менш тривожна. ШІ-системи, налаштовані на максимізацію результату, є консеквенціалістами – вони оцінюють дії за їхніми наслідками, а не за цінностями. Більшість людей влаштовані інакше: ми будуємо мораль на любові, турботі, інтуїції, а не на холодному розрахунку. Але якщо ШІ непомітно привчить нас до свого “мислення” – ми втратимо щось суттєве у своїй людяності.
Я не поділяю песимізм автора повністю. Але питання, яке він порушує, важливе: технології вдосконалюють інструменти, але ШІ може змінювати людей. І за цим варто уважно стежити.