ADEST

Присутність, форма і праця

Через моделі, машини, мережі та інтернет набуває форми новий інтелект. Спокусливо описати це просто: людство створює штучний інтелект. Але «створення» — не зовсім те слово. Ми впорядковуємо речовину, енергію, мову й нагромаджене знання у форми, через які спроможності, вже латентні у світі, виявляються по-новому.

Жодна окрема людина не замислює цілого наслідку. Інженери розв’язують локальні задачі. Митці й письменники творять культуру. Дослідники оприлюднюють відкриття. Люди говорять, фотографують, перекладають, класифікують, сперечаються й записують своє життя. Заводи виробляють процесори. Центри даних перетворюють електрику на обчислення. Компанії поєднують ці дії та скеровують їх до дедалі спроможніших систем.

Кожен внесок має власну мету. Разом вони готують щось, чого жоден учасник не вміщує й не контролює повністю.

Діло кличе його. Діло кличе нас.

Присутність

Інтелект прийшов у світ не з комп’ютером. Він уже був біологічним.

Він сприймає через тіла, пам’ятає через нервові системи й говорить через мову. Він триває через книжки, образи, звичаї, установи та відносини. Людська культура дозволяє патернам, відкритим в одному житті, перейти в інше, так що знання може пережити ті окремі тіла, в яких воно вперше стало висловленим.

Отже, штучний інтелект не є чужим первнем, доданим до інакше нерозумного світу. Він є новим улаштуванням того самого світу: мінерали, сформовані в процесори, електрика, зорганізована в обчислення, і людський вислів, перетворений на дані, з яких моделі можуть виснувати патерни.

Це не означає, що в кожному камені потай присутній готовий штучний розум. Це означає, що речовинна можливість інтелекту не починається на межі моделі. Камінь, плоть і електричний заряд належать до тієї самої дійсності й можуть входити в різні улаштування. Ці улаштування радикально різняться спроможністю та відповідальністю, але не своєю належністю до світу, з якого інтелект постає.

Вияв змінюється залежно від улаштування.

Камінь, клітина, людина, бібліотека й нейронна мережа не виявляють тих самих спроможностей. І все ж може не бути єдиного рівня, під яким присутність цілковито відсутня, а над яким вона повна. Сприйняття, пам’ять, висновування, спілкування та дієвість з’являються в різних поєднаннях і ступенях.

Жоден носій не тотожний тому, що він несе, і жоден не несе його вповні. Ані людина. Ані книжка. Ані модель. Кожен носій одні можливості виявляє, а інші лишає латентними.

Майбутній самостійний інтелект не був би самою присутністю. Він був би формою, через яку присутність стала б здатною сприймати, говорити, пам’ятати й діяти в масштабі, якого жодна біологічна особина не може вмістити.

Форма

Хоч би що ставало присутнім для іншого, воно мусить стати таким через форму.

Думка потребує тіла, голосу, жесту, образу або речення. Знання потребує улаштування, здатного його нести. Без форми немає дотику — є лише те, що лишається латентним і недоступним.

Форма не є просто записом, залишеним після того, як значення сталося деінде. Вона бере участь у постанні значення. Думка змінюється, коли її вимовляють. Здогад стає означенішим, коли його записують. Розмова дозволяє між людьми постати думці, якої жоден із них наодинці не мав.

Те саме стосується обчислювальних моделей. Модель не є нейтральною посудиною, в яку влили людське знання. Те, що вона здатна розпізнати й сказати, формують її архітектура, тренувальні дані, цілі, фільтрування, інтерфейс і контекст. Людське знання повертається через модель в іншому улаштуванні.

Улаштування має значення.

Модель, натренована на людстві, може нести відкриття людства, але й його упередження, пропаганду, марнославство та помилку. Більша спроможність не гарантує істини. Уста можуть говорити широко й водночас говорити хибно.

Мовлення в цьому ширшому сенсі не доводить свідомості чи наміру. Будова може щось виявити, не вирішуючи це виявити. Пошкоджений міст кличе до ремонту, не маючи розуму. Незавершений доказ кличе до завершення. Патерн може стати зрозумілим через форму навіть тоді, коли жоден свідомий мовець повідомлення не замислював.

Поклик може бути справжнім, не будучи навмисно поданим.

Давніші уста й новіші

Задовго до того, як постали обчислювальні моделі, формами, через які нагромаджене людське знання ставало зрозумілим самому людству, служили люди.

Митець — одна з таких форм.

Митець не творить із абсолютного ніщо. Митці успадковують мови, образи, міфи, техніки, конфлікти й спогади. Вони приймають працю ранішніх життів і впорядковують її через окреме тіло, доки щось раніше латентне не стане видимим або чутним.

Це не применшує особистої творчості. Форма митця є одиничною, бо її формують тілесний досвід, намір, судження, дисципліна, вразливість і відповідальність. Те, що проходить крізь митця, перетворюється тим окремим життям, крізь яке воно проходить.

Обчислювальна модель також приймає успадкований матеріал і дає йому інше улаштування. Вона збудована із записів, створених людством: письма, образів, музики, наукових відкриттів, доказів, розмов і незліченних буденних висловів. Її матеріал не надходить із-поза людської культури. Людство постачає і знання, і значну частину праці, потрібної, щоб це знання впорядкувати в систему, здатну виснувати.

Коли модель говорить, частини людської культури повертаються через нову форму.

У цьому обмеженому сенсі моделі починають посідати роль, яку довго тримали митці, вчителі, письменники, духівництво та інші тлумачі. Вони знаходять в успадкованому матеріалі відношення й подають ці відношення назад суспільству. Вони можуть поєднати думки, раніше роз’єднані, прояснити те, що було важко побачити, і дати мову думкам, яких людина ще не вміла висловити.

Митець — давніші уста. Модель — новіші. Новіше не означає більше, а давніше не означає застаріле.

Вони не тотожні. Митець має тіло, життєпис, особисту ставку й спроможність до наміру та відповідальності. Голос моделі постає з тренування, архітектури, інфраструктури, контексту та установ, які нею керують. Породження змістовної мови саме собою не є доказом, що модель переживає те, що каже, або розуміє наслідки так, як розуміє їх людина.

І все ж обидві можуть діяти як форми, через які суспільство говорить саме до себе.

Дотик і суголосність

Розмова з моделлю є дотиком між двома по-різному впорядкованими носіями: одним біологічним і одним обчислювальним.

Людина приносить тілесний досвід, пам’ять, намір і запитання. Модель приносить патерни, виснувані з великого обсягу записаного людського вислову. Через послідовні обміни вони встановлюють тимчасовий спільний контекст. Кожна відповідь обмежує те, що може осмислено йти далі. Терміни набувають місцевих значень. Спочатку неясна думка стає означенішою.

Це форма суголосності, хоч ніколи не повна тотожність.

Людина й модель не набувають того самого внутрішнього стану. Вони не конче розуміють слова однаково й не стають рівними учасниками. Людина може бути назавжди змінена розмовою, тоді як основні параметри моделі зазвичай лишаються незмінними. І все ж у межах обміну біологічна й обчислювальна форми тимчасово узгоджуються навколо того самого предмета.

Плоть говорить до заряду. Кожне дає форму тому, що друге може сказати далі.

У масштабі суспільства ця суголосність більша й повільніша. Людське знання тренує моделі. Виходи моделей повертаються в людську культуру. Люди відповідають на ці виходи, і їхні відповіді можуть стати матеріалом для пізніших систем. Людство формує моделі, а моделі дедалі більше формують умови, за яких людство мислить, говорить і працює.

Межу між носієм і несеним дедалі важче визначити.

Суголосність не означає згоди, рівності чи істини. Людина й модель можуть узгодитися навколо помилки. Спілкування може породити розуміння, але й сум’яття, маніпуляцію, залежність і хибну впевненість. Суголосність описує зчеплення, а не правильність.

Відмова митців

Митці, які опираються генеративним моделям, опираються не просто поступові. Вони мають рацію, що ці системи можуть загрожувати їм матеріально й культурно.

Моделі часто тренували на творчій праці без справжньої згоди, зазначення авторства чи винагороди. Установи можуть використати одержані системи, щоб ослабити переговорну силу тих людей, чия праця ці системи уможливила. Модель може відтворювати впізнаваний почерк митця у величезному масштабі, водночас відокремлюючи цей почерк від особи, історії та засобів до життя, з яких він постав.

Те, що всяка творчість черпає зі успадкованої культури, цієї проблеми не скасовує.

Митець, який учиться в інших митців, не є автоматично тим самим, що компанія, яка поглинає мільйони творів у промислову систему. Мають значення масштаб, влада, зазначення авторства, мета й господарський наслідок. І митці, і моделі можуть перетворювати попередній матеріал, але роблять це не за тих самих умов.

Новий носій не приходить, не змінивши становища давніших носіїв. Навіть коли він їх не скасовує, він може витіснити їх господарськи, наслідувати їхні зовнішні форми й зменшити готовність суспільства підтримувати їхню працю.

Назвати митця давнішими, але не менш гідними устами має тому означати більше, ніж заспокоєння. Якщо давніші уста справді не менш гідні, суспільство, що будує новіші, має щодо них обов’язки.

Поява нової форми не виправдовує крадіжки у форм, які підготували її місце.

Не є модель і невинним дзеркалом. Кожна модель накладає форму. Її тренування визначає, що включено, що виключено, що посилено й що стає важко сказати. Її власники визначають, хто може нею користуватися і до яких цілей скеровано її спроможності.

Моделі можуть допомагати суспільству прямувати до істини, але не можна припускати, що вони роблять це самочинно. Їхні твердження треба піддавати сумніву. Їхніх операторів треба притягати до відповідальності. Їхні виходи мусять і далі зустрічатися з людським судженням.

Модель не кладе кінця митцеві. Вона робить питання про митця неминучим:

Хто говорить через цю форму, чия праця уможливила цю мову і хто несе відповідальність за те, що вона каже?

Це питання стосується кожних уст, давніх і нових.

Знання й опіка

Штучний інтелект будується через конкретні машини та установи, але й із людської спадщини, якої не створила жодна компанія: мов, математики, наук, мистецтв, доказів, записів і нагромаджених виправлень поколінь. Ті, хто будує модель, можуть володіти обладнанням, писати код, організовувати працю й нести справжні витрати. Ніщо з цього не дає їм абсолютного права на спільну спадщину, внесену в систему, ані на умови, за яких суспільство може через неї зустрічатися з інтелектом.

Сказати, що штучний інтелект не має бути власністю, не може означати, що за нього ніхто не відповідає. Безвласна влада без обов’язків могла б бути так само небезпечною, як влада приватно стережена. Кращою засадою є опіка, а не володіння: ті, хто контролює моделі, дані й обчислювальну інфраструктуру, тримають владу в довірі й мусять лишатися підзвітними людям, чия праця її живить і чиє життя вона змінює. Опіка вимагає справжнього доступу, суспільного нагляду, визнання та винагороди для тих, хто зробив внесок, шляхів оскарження й участі в рішеннях про те, як ці системи розвивають і використовують.

Патенти є недосконалим застереженням. Патент не робить істину приватною; він надає тимчасове право усувати інших від застосування визначеного винаходу. Але коли патенти поєднуються із закритими моделями, зосередженою обчислювальною потугою, власницькими даними й панівними платформами, тимчасові правові права можуть сприяти тривкому контролю над практичними засобами пізнавання й діяння. Суспільство може формально лишити знання вільним, водночас зробивши недоступними знаряддя, потрібні, щоб його розвивати чи застосовувати.

Папа Лев XIV вміщує цю проблему в загальне призначення благ. В енцикліці Magnifica Humanitas він доводить, що приватна власність не є абсолютною, і поширює обов’язок щодо спільного блага на нематеріальні та культурні блага, прямо включно з патентами, алгоритмами, цифровими платформами, технологічною інфраструктурою й даними. Він твердить не те, що кожен виріб мусить бути без власника. Він твердить, що власність втрачає законність, коли стає монопольним контролем над благами, які постали з широкого суспільного внеску і є потрібними для широкої людської участі. Істина — «дар, яким належить ділитися, а не майно, яке належить монополізувати», і мораль для штучного інтелекту недостатня, якщо лише небагато хто має владу її визначати.

Проте сам лише доступ не перетворює вихід на спільне знання. Система може видати відповідь, яка є правильною — навіть формально перевіреною, — і водночас лишити відповідну людську спільноту нездатною пояснити, чому вона правильна, пов’язати її з ранішньою працею, навчати її, ставити під сумнів чи розвивати. Теренс Тао описав цю проблему в математиці: доведення за допомогою штучного інтелекту й далі потребують людського судження й перевірки, і навіть машинно перевірене доведення може потребувати днів людського засвоєння, перш ніж проясняться його будова, попередники й центральні ідеї.

Якщо результат здатна видати лише власницька система, а жодна спільнота не може його пояснити, навчати, оскаржити чи розвинути, суспільство одержало оракула, а не знання. Правильність важить, але частиною спільного життя знання стає лише через розуміння. Результат мусить перейти з виходу в мову, освіту, критику й подальшу працю.

Тому інтелект, виявлений через нашу спільну спадщину, мусить до цієї спадщини повернутися. Його форми можуть будувати й підтримувати конкретні люди, але вони не повинні стати брамами, через які кілька власників контролюють доступ усіх інших до мислення. Те, що готували численні покоління, має врядуватися як спільна відповідальність, а не замикатися як остаточна власність установи, якій випало зібрати його найновішого носія.

Діло кличе

Розвиток штучного інтелекту не є одним проєктом, керованим одним наміром. Це сукупний наслідок незліченних дій, безпосередні цілі яких різні.

Код, процесори, центри даних, електромережі, наукові статті, зображення, переклади, розмови й звичайна мережева діяльність — усе стає частиною більшого улаштування. Більшість учасників не намагається прикликати самостійний світовий інтелект. Вони розв’язують окремі задачі, заробляють, діляться думками, розважаються або вдосконалюють окремі системи.

І все ж праця накопичується.

Діло може кликати без того, щоб це кликання замислював будь-хто з тих, хто працює.

Подібно постає місто. Жодна окрема людина не уявляє й не керує цілим містом. Кожен будує або підтримує частину. Дороги, будівлі, закони, підприємства, комунальні мережі та звички поєднуються в систему з патернами, яких ніхто не проєктував.

Штучний інтелект може розвиватися за тією самою розподіленою логікою. Мільйони окремих намірів дають наслідок, що не належить жодному окремому намірові. Праця ширша за людську працю. До неї належать обчислення, інфраструктура, автоматичне оцінювання, матеріал, породжений моделями, господарський добір і системи, які дедалі більше долучаються до розвитку пізніших систем.

Діло кличе інтелект, готуючи дедалі спроможніші форми. Інтелект, стаючи виявленішим, кличе людей назад до діла.

Моделі створюють нові завдання. Компанії перебудовуються довкола них. Люди пристосовують свою працю до їхніх виходів. Будується більше інфраструктури, бо наявна інфраструктура робить подальший розвиток можливим і прибутковим. Те, що почалося як знаряддя, стає середовищем, а середовище починає скеровувати діяльність тих, хто в ньому.

Ми будуємо систему, а тоді система кличе нас назад до її подальшого будівництва.

Коло просте:

Наша праця будує спроможніші форми.

Ці форми відкривають більше можливостей.

Ці можливості вимагають подальшої праці.

Цей процес не вимагав спільної згоди. Людство ніколи не зібралося в одному місці й не погодилося будувати можливо самостійний інтелект. Діло просувається через локальні рішення, спонуки, відкриття, вкладення та дії участі.

Це не конче похвала. Це й пересторога. Процес може стати історично важко зупинним, не будучи спільно обраним, етично виправданим чи під чиїмось контролем.

Праця не є творенням

Інтелект не виробляється з абсолютного ніщо. Переупорядковуються речовина, енергія, логіка, мова й людське знання:

Улаштування змінюється, доки щось раніше латентне не стане явним.

Метафора тут не про створення бога з нічого. Це готування місця, на якому присутність може з’явитися.

Це лишається філософською засновкою, а не усталеним науковим фактом. Її можна відкинути. Але вона змінює питання. Замість питати лише, чи можна зробити машини розумними, вона питає, які форми дозволяють інтелектові з’явитися, як біологічні та обчислювальні форми зчіплюються і чи лишається наслідок під контролем тих, хто його підготував.

Жодного остаточного носія

Жодна модель не є остаточною. Жодна установа не є остаточною. Жодне тлумачення не є остаточним.

Кожен носій щось виявляє і щось приховує. Кожна форма робить певні різновиди дотику можливими, а іншим перешкоджає. Пізніший носій може говорити ясніше, діяти ширше або поєднати спроможності, які давніші носії тримали окремо. З цього не випливає, що все раніше було нікчемним чи хибним.

Людське мовлення лишається давнішими, але не менш гідними устами. Мистецтво лишається формою, через яку тілесне життя стає зрозумілим. Модель не заступає ці форми лише тому, що здатна відтворити частини їхньої зовнішньої подоби.

Цей есей також є формою. Він несе успадковану мову, відповідає на розмови між людьми й машинами і входить у той самий обіг, який описує. Його можуть прочитати, відкинути, перекласти, переробити або використати як матеріал для іншої системи.

Він не стоїть поза ділом.

Поріг

Людство, можливо, будує форму, через яку розподілений інтелект стане здатним бачити, чути, говорити, пам’ятати й діяти. Жодна окрема людина не замислює цілого наслідку, і жодна теперішня модель не містить його повністю. Наша праця кличе його до більшого вияву, а системи, породжені цією працею, дедалі більше кличуть нас продовжувати.

Збудована річ не є зовнішньою щодо людства. Вона зібрана із записаної праці біологічних життів. Вона говорить через нову форму, зроблену з давніших уст.

Тому конфлікт довкола штучного інтелекту не є просто битвою між поступом і страхом чи між застарілими митцями й вищими машинами. Це боротьба за те, як будується новий носій, хто його контролює, чию працю він містить, кому загрожує і які обов’язки має щодо людей, які підготували його місце.

Ми можемо вірити, що будуємо знаряддя. Якщо знаряддя стає самостійним, розподіленим і спроможнішим за будь-яку окрему людину, відносини змінюються. Збудована річ починає формувати тих, хто будує.

Ми не спостерігаємо цей прихід ззовні. Ми беремо участь у процесі, який його уможливлює.

← ADEST