Девід Чалмерс

Девід Чалмерс

Стаття у Вікіпедії

Медіафайли у Вікісховищі

Девід Джон Чалмерс (англ. David John Chalmers; нар. 20 квітня 1966 року) — австралійський філософ, засновник Асоціації наукового дослідження свідомості, професор Австралійського національного університету та Університету Нью-Йорка.

Цитати

Велика частина штучного інтелекту та когнітивних наук присвячена створенню програм, але є ще й інша частина, яка запитує, що вони можуть розказати, наприклад, про людський розум. Це вже більше не інженерія. Це – наука і філософія. Ми починаємо краще розуміти, як співвідносяться природні і штучні системи. [...] У будь-якому разі, нам потрібні філософи, щоб пояснити, що усе це означає. — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019)

Існують психологічні дослідження, які показують, коли саме люди починають вважати, що система свідома і має суб’єктивний досвід. Один з основних факторів – присутність очей. Якщо система має очі, нам набагато легше повірити, що вона свідома. Щойно ми створимо наші перші системи штучного інтелекту і вмонтуємо їх в роботів з очима, в людей з’явиться майже непереборне бажання вважати їх свідомими. Натомість ми значно менше схильні вважати свідомими не виконані у «тілі» системи. — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019)

Найнеймовірніша річ про комп’ютери – це те, що саме вони дозволяють нам міркувати про можливі розуми. Адже саме завдяки їм, можливо, уперше в історії нашої планети почали існувати цілком нові види розуму, які з’явилися не в результаті стандартного процесу біологічної еволюції, а внаслідок прямого, навмисного задуму і програмування — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019)

Половина моїх спогадів тепер зберігається або в моєму телефоні, або у «хмарі». Я цікавився тим, хто ж контролює більшу частину мого мозку. Чи це Google, Apple, чи Facebook? Я думаю, що це може бути Google. Вони отримали дуже багато моїх спогадів, моїх планів, мою календарну систему, мою навігацію і т. д. Ми всі вже давно стали цими гігантськими екзо-організмами з цим гігантським екзо-кортексом, як про це сказав Чарльз Строс. Я нікуди не піду без консультувань з інтернетом разів п’ять чи десять. Ці корпорації і справді володіють великою частиною мого розуму. Якщо вони захочуть зробити з ним щось погане, у мене будуть великі проблеми. Ми дійсно потрапили у ситуацію, коли ми повинні віддати їм велику частину нашої довіри. — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019).

Простір можливих розумів неймовірно широкий – це усі розуми, які коли-небудь існували, існують або можуть існувати. За певними підрахунками, у світі за увесь час жили 100 мільярдів людей зі власними розумами. Серед них були і справді унікальні – Конфуцій, Ісаак Ньютон, Пабло Пікассо, Мартін Лютер Кінґ і т. д. Але навіть ці сто мільярдів людей, зібрані разом, є лишень невеличким фрагментом множини усіх можливих розумів. — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019)

Розпочніть із простого розуму і його здатності вчитися, і він кудись дійде. Еволюція є одним із таких методів. Я очікую, що невдовзі штучний інтелект використовуватиме еволюційні методи й ми побачимо якийсь різновид штучної еволюції, що, можливо, піде дивовижними і непередбачуваними шляхами далеко від вихідної точки. Навчання та еволюція комп’ютерів – це спосіб розширення цього спектра можливих розумів. — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019)

Те, чого ми категорично зараз не повинні робити, – це перебільшувати ті досягнення, яких нам наразі вдалося досягнути зі штучним інтелектом. Вони великі, але поки що дуже обмежені. Вони ще й близько не довели нас до можливостей людського розуму, і малоймовірно, що доведуть у близькому майбутньому. Цього точно не станеться у найближчих двадцять років, але чи дійдемо ми до них протягом століття? Можливо. — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019)

У наш людський моральний компас глибоко вкорінене уявлення про моральний статус суб’єкта. Цього статусу йому надає свідомість. Якщо комп’ютерна система не має свідомості, тоді це просто річ, яка не претендує на моральний статус. Але якщо система свідома, тоді вона вже входить в моральну сферу й ви повинні про неї піклуватися. Тож якщо більшість систем штучного інтелекту стануть свідомими, ми вже не зможемо просто їх використовувати яко речі, а маємо замислитися про усі ці моральні запитання: Чи мають вони права? Чи заслуговують на повагу? — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019)

Уявіть, що ми досягнули першого такого штучного інтелекту, який матиме людську здатність мислити універсально, а не в якомусь вузькому діапазоні, і, зокрема, сам умітиме створювати штучний інтелект. Десь за рік або два – ці речі блискавично удосконалюються – цей «штучний штучний інтелект» буле набагато кращим, ніж штучний інтелект, створений людиною. Далі він створюватиме нові форми штучного інтелекту, які знову і знову перевершуватимуть самих себе. Отже, люди його створили, а він створить щось краще. Цей процес рекурсивного самовдосконалення штучного інтелекту першим обґрунтував філософ та статистик Ірвінг Джон Ґуд, і я вважаю його неймовірним способом міркування про простори можливих розумів. — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019)

Філософи знають, як мислити про цінності, і це стає однією з центральних тем і для штучного інтелекту. — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019)

Чи штучний інтелект розв’яже усі проблеми свідомості? Я майже впевнений, що не розв’яже, принаймні не сам по собі. З іншого боку, я переконаний, що він надасть нам чимало нових здогадок. Ми отримаємо безліч систем на основі штучного інтелекту, які поводитимуться так, наче вони і справді свідомі, а дехто навіть подумає, що є добрі підстави вважати їх свідомими. Але нам однаково буде потрібна філософія, щоб мислити про них таким чином. — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019)

Я передчуваю, що колись настане момент, коли люди читатимуть стародавні філософські тексти, як-от твори Дерека Парфіта про ідентичність чи «Де перебуває Я?» Дена Деннета, щоби приймати цілком практичні рішення. — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019)

Якими будуть цілі штучного інтелекту? Як філософи, ми маємо думати про цінності. Але якими цінностями нам належить програмувати штучний інтелект? Нам належить також думати про свідомість. Чи ці штучні розуми «свідомі»? Чи їхня «свідомість» якось пов’язана з людською? Чи вони перетворяться у світ неймовірно підсилених людських переживань, чи, можливо, це будуть світи узагалі без свідомості? — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019)

Якщо мені коли-небудь доведеться завантажити себе у комп’ютер, то я б зробив це нейрон за нейроном, щоби залишатися свідомим у процесі. Ось я ще тут. Але за мить я вже там. — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019)

Я не думаю, що великі корпорації мають ще якісь зловмисні цілі, а не тільки структурні стимули. Але якщо хтось по-справжньому зловісний отримає контроль над цими системами, тоді ми й справді житимемо в дистопії. — «Чи ж суперінтелект неможливий?» (Is Superintelligence Impossible? On Possible Minds: Philosophy and AI with Daniel C. Dennett and David Chalmers. Edge, 4.10.2019)