Штучний інтелект та його стрімке вторгнення в геологічні науки вже неможливо було ігнорувати на минулорічній Генеральній асамблеї EGU (EGU General Assembly). У четвер, 8 травня, відбулися Великі дебати на тему «Етика використання ШІ в геологічних науках: можливості та ризики» (The ethics of using Artificial Intelligence in the Geosciences - Opportunities and Risks). Дискусія охоплювала все: від наукової доброчесності та прозорості до екологічних витрат, упередженості та людської відповідальності.
Ви можете використовувати Генеративний ШІ, щоб удосконалити та виправити граматику для рецензії, написаної мовою, яка не є вашою рідною. Ви також можете попросити його написати рецензію за вас. Технічно, обидва варіанти передбачають текст, згенерований ШІ. Етично, це різні світи.
Ця відмінність важлива, оскільки, попри часті дискусії про регулювання, засоби виявлення та інституційні рекомендації, наукова доброчесність значною мірою все ще залежить від індивідуальних рішень. ШІ змінює не лише те, на що здатні вчені, а й, можливо, сам спосіб їхнього мислення, а також те, яку частину розумової роботи ми вирішуємо доручити «колезі», який завжди готовий допомогти — хоча іноді це здається аж надто підозрілим.
Нещодавній звіт Комісії з геоетики IUGS recent report by the IUGS Commission on Geoethics) безпосередньо стосується багатьох із цих питань, пропонуючи рекомендації щодо етичного використання ШІ в геологічних науках. Детально розглянути кожен аспект етики штучного інтелекту було б важко в одній публікації в блозі. Тому натомість я хочу зосередитися на кількох ідеях з дебатів, які залишилися в моїй пам'яті після цього.
Перша з них — це суб’єктність. Правда полягає в тому, що, зрештою, етичне використання ШІ стосується не стільки того, що ШІ може робити, скільки того, що ви вирішуєте йому делегувати, та усвідомлення того, що це залишається вашим вибором. Ви обираєте, чи перевіряти результати моделі, перш ніж включити їх у свою роботу. Ви обираєте, чи покладатися на згенеровані ШІ резюме, замість того, щоб самостійно читати статті. Ви обираєте, чи ШІ діятиме як помічник вашого мислення, чи почне повністю замінювати частини процесу мислення.
Наукову доброчесність не можна передати на аутсорсинг. Відповідальність не зникає просто тому, що інструмент стає потужнішим чи зручнішим. Зручність має значення, і системи ШІ надзвичайно добре справляються зі зменшенням бар’єрів: написання тексту, узагальнення інформації, генерування коду, організація ідей. Але зменшення бар’єрів може також зменшувати рівень осмислення. Чим легше стає автоматизувати окремі етапи наукової роботи, тим легше може стати інтелектуально дистанціюватися від них, водночас залишаючись відповідальним за кінцевий результат. Це підводить мене до другої ідеї, яка залишилася зі мною після дискусії: важливість критичного мислення не просто як наукової навички, а й як невід’ємної складової наукової етики.
Наука — це не лише отримання результатів. Вона також передбачає розуміння того, як ці результати були отримані, усвідомлення невизначеності, виявлення обмежень, критичне ставлення до припущень та здатність обґрунтувати висновки. Однак існує істотна різниця між використанням штучного інтелекту для підтримки логічного мислення та його використанням для повного обходу логічного мислення.
На завершення я процитую звіт IUGS (Міжнародна Асоціація Сприяння Геологічній етиці), адже, на мою думку, краще це сформулювати вже неможливо: «Етика — це не лише правила чи наслідки; вона є ситуативною, емоційною, емпатійною та заснованою на взаєминах. Вона стосується морального характеру людини. Етика чеснот — це стійка внутрішня схильність чинити правильно, тобто так, як вчинила б добра і мудра людина».
Оберіть бути добрим і мудрим вченим.