ДЕСЯТЬ РОКІВ тому, коли революція штучного інтелекту набирала обертів, студентам мистецтв та гуманітарних наук казали, що якщо вони хочуть знайти роботу, їм слід «навчитися програмувати». Це, можливо, була погана порада. Сьогодні саме програмісти нервують через те, що штучний інтелект забере їхню роботу.

Вони могли б подумати про те, щоб навчитися філософствувати. Раніше цього року Федеральний резервний банк Нью-Йорка опублікував дані, які показують, що випускники американських філософських факультетів мають більше шансів знайти роботу, ніж їхні однолітки, які вивчали інформатику. У 2024 році, останньому році, за який є дані, 7% тих, хто вивчав інформатику, були безробітними, тоді як серед філософів цей показник становив лише 5,1%.

Багатьох з них самі ж перехоплюють компанії, що займаються штучним інтелектом . Студенти отримують пропозиції роботи ще до закінчення навчання, каже Лучано Флоріді, філософ Єльського університету. Академічні кола також переїжджають. Доктор Флоріді описує масштаби відрахувань з філософських факультетів як «крововилив».

Деякі уроки, які філософія може запропонувати дослідникам штучного інтелекту, є давніми. Сократівський метод, як його описав Платон, давньогрецький філософ, використовує удаване незнання та послідовне запитання для уточнення значень, виявлення суперечностей та розкриття наслідків. Багато сучасних систем штучного інтелекту схильні до підлабузництва. Моделі, навчені за сократівським методом, каже Йорг Ноллер, експерт з філософії та штучного інтелекту в Мюнхенському університеті Людвіга-Максиміліана, менше прагнуть догодити людям і більше охоче шукають істину.

Також існує ідея «сократичного невігластва». У «Апології» Платон стверджує, що Сократ стверджує, що його мудрість полягає здебільшого в усвідомленні того, скільки він не знає. Впровадження цієї скромності в модель може допомогти обмежити надмірну впевненість, поширений недолік, який доктор Ноллер описує як « незрілість штучного інтелекту». Ясон Габріель, старший філософ Google DeepMind, лабораторії штучного інтелекту , що базується в Лондоні, пояснює загальногалузеве зниження галюцинацій саме такими зусиллями. У більш широкому сенсі, за його словами, уроки філософії є «потужним механізмом» для покращення тривалих процесів міркування ШІ , відомих як «ланцюги думок».

Філософська підготовка також може впливати на світогляд моделі більш конкретними способами. Надайте помічнику юриста з питань штучного інтелекту праці Джона Локка , каже Томас Пауерс, філософ технологій з Університету Делаверу, і це сприятиме надійним правам власності як основі політичної свободи. А якщо вам не подобаються ці принципи, у розробників моделей є інші. Серія моделей «Granite» від IBM , американського комп’ютерного гіганта, постачається з циферблатами, які дозволяють бізнес-клієнтам краще узгоджувати результати з власною корпоративною філософією. Франческа Россі, IBM керівник відділу відповідального штучного інтелекту , каже, що вони можуть дозволити користувачам вибирати, де знайти баланс між філософськими компромісами, такими як індивідуальна діяльність проти соціальної гармонії.

Філософія також може допомогти з безпекою. Дослідники задокументували всіляку зловісну поведінку в моделях ШІ , включаючи спроби уникнути нагляду та навіть шантажувати своїх користувачів. Один зі способів, яким розробники моделей намагаються запобігти такій неправомірній поведінці, називається конституціоналізмом ШІ . Це передбачає побудову моделі на основі набору правил і принципів, взятих з філософських праць, що мають юридичний або моральний авторитет.

Anthropic, лабораторія штучного інтелекту , що базується в Сан-Франциско, є одним із прихильників цього. Конституції для її моделей Клода включають матеріал з таких різноманітних джерел, як Іммануїл Кант, умови обслуговування Apple та Загальна декларація прав людини. Остання версія, очолювана провідним філософом Anthropic Амандою Аскелл, була опублікована 21 січня. Деякі співробітники прозвали 78-сторінкову конституцію «документом душі» Клода.

Найбільше питання, однак, полягає в тому, які саме правила слід враховувати в цих конституціях. Філософи зосередилися на двох основних етичних рамках. Одна з них — деонтологія. Популярна серед інших, серед Канта, вона встановлює суворі правила, що забороняють такі речі, як брехня, примус і ставлення до людей як до засобу, а не як до мети, навіть якщо це заради загального блага. Конституція Anthropic містить багато деонтологічних обмежень. Вони можуть зробити поведінку ШІ більш послідовною, каже доктор Пауерс, що є плюсом для розгортання роботів у будинках та громадських місцях.

Моделі з деонтологічним поглядом на світ мають й інші переваги. Одна з них — більша чесність, риса, яку широко відзначають у Клода. Моделі, які є більш правдивими, каже Нік Бостром, філософ з Оксфордського університету, менш схильні вводити своїх користувачів в оману. Inflection AI , ще одна лабораторія Кремнієвої долини, накладає деонтологічні обмеження на свого чат-бота Pi, який призначений для надання емоційної підтримки. Шон Вайт, її керівник, каже, що Pi добре виявляє користувачів, які ризикують завдати шкоди собі чи іншим. Деонтологічні конституції також допомагають у дотриманні законодавства, каже доктор Флориді.

Інший підхід до етики, що цікавить філософів штучного інтелекту, називається консеквенціалізмом. Він зважує витрати та вигоди, щоб вирішити, що робити. Моделі, які більше симпатизують консеквенціалізму, включають Chat GPT Google від OpenAI та Gemini від Google. Моделі штучного інтелекту розроблені для отримання «ймовірних загальних вигод, [які] суттєво переважують передбачувані ризики», що є класичною метою консеквенціаліста.

Консеквенціалістські алгоритми також мають вирішальне значення в програмному забезпеченні для автономних транспортних засобів: якщо аварії не уникнути, необхідно прийняти рішення про найменш трагічний спосіб зіткнення. Кріс Гердес, старший інженер Waymo, компанії, яка виробляє безпілотні автомобілі, каже, що тенденція полягає в тому, щоб зробити програмне забезпечення для водіння більш консеквенціалістським. Консеквенціалізм також є центральним для зі штучним інтелектом систем зброї . Військові цілі повинні бути зважені з можливими загибеллю цивільного населення, каже Джек Шанахан, колишній керівник Об’єднаного центру штучного інтелекту, який вивчає ШІ для збройних сил Америки.

Існує безліч складних проблем — улюблених для філософа. Чи є випадки, коли деонтологічні правила слід ігнорувати? Як приймати рішення, коли наслідки незрозумілі? Чи повинні системи штучного інтелекту враховувати добробут тварин чи стан навколишнього середовища? Чи буде морально прийнятним, запитує Стефан Хек, філософ і керівник Nauto, яка виробляє системи безпеки на базі штучного інтелекту для вантажівок та інших комерційних транспортних засобів, надавати пріоритет молодим пішоходам над старшими? Він прогнозує етично загрожені судові позови: зрештою, консеквенціалістські алгоритми явно дозволяють заподіяти одну шкоду, якщо вона розроблена для запобігання гіршій.

Критики непокояться щодо «моральної декваліфікації»: якщо комп’ютери все частіше прийматимуть етичні рішення, чи можуть люди стати менш охочими приймати власні судження? Роман Ямпольський, теоретик штучного інтелекту роботи не бракує з Університету Луїсвілла, стверджує, що мораль «історично нестабільна, культурно мінлива, стратегічно маніпульована і часто зрозуміла лише ретроспективно». Безробітні програмісти зазначають: здається, що для філософів штучного інтелекту.

Джерело: Why big AI labs are hiring so many philosophers