Бісі Бірман, Heavy Projects: ІІ повинен мати недосконалості - це елемент випадку

1. елемент випадковості
2. Упередженість і інші слабкості ІІ
3. Інтерактивні міські простору
4. Змусити людей думати
5. цифровий протест
6. Відлуння-камери і покоління AI natives

елемент випадковості

- Як зараз розвивається технологічна сторона AR?

- Сьогодні все одно необхідно пристрій-посередник: в даний момент ми все ще на стадії смартфонів. Це добре, тому що людям не потрібен новий девайс, він уже в кишені. Але графіка все одно не приголомшлива. А весь процес складний - потрібно дістати телефон, завантажити додаток, потім ходити з телефоном і дивитися на екран. Не дуже зручно. Ми почали займатися цим близько десяти років тому з чітким розумінням, що мобільний телефон - це не кінцева точка для AR. Далі це перейде до окулярів. Вони ще не виглядають як звичайні окуляри, але скоро будуть такими. Сторона «заліза» повинна наздогнати сторону софта.

Все перейде в окуляри, у яких буде режим AR, VR і режим звичайних окулярів, якщо ви не хочете бачити цифровий контент. Потім, можливо, імпланти, якими лякають людей сьогодні.

Ця технологія неможлива без AR Cloud (цифрова копія світу, оптимізована для розумних пристроїв - «Хайтек»). Що нам треба - це універсальний візуальний браузер (UVB). Сьогодні, щоб використовувати AR, вам потрібно завантажувати додаток для кожного конкретного випадку. А необхідно щось на зразок інтернету, тільки для AR-контенту - єдина точка входу. Ми як індустрія наближаємося до цього.

Майбутнє настало: 5 новітніх технологій навколо нас

Зараз видно великий прогрес в трекінг об'єктів, «хмарах точок», з'явилися ARKit і ARCore . Уже легше розпізнавати навколишнє середовище в режимі реального часу. Створювати хмара точок 3D-простору, накладати на нього контент. Але як браузер зрозуміє, який контент накладати, і на що? Що релевантно для вас особисто? І тут ми стикаємося з перешкодою з боку етики.

- Тому що для цього потрібно збирати дані?

- Так, але це вже відбувається. Тут, звичайно, є проблема приватності. Потім цей браузер буде в залежності від вашої поведінки давати новий контент, релевантний минулого поведінки. Але також необхідний і випадковий контент, який не весь запрограмований. Повинен бути якийсь елемент випадку. Як в реальному світі.

- Як випадковість дій і недосконалість людини?

- Так. Але тут ми стикаємося з парадоксом. Як можна запрограмувати випадковість? Це окрема велика дискусія, в яку зараз, напевно, не варто йти. Але це велике питання, якщо обговорювати сторону контенту майбутнього, - то, що ви будете бачити.

- Про випадковість: ви вважаєте, що це необхідно? Потрібно запрограмувати її в ІІ, щоб технології були більш людяними?

- Я так думаю. Може, це погана формулювання, але вчинення помилок повинно бути запрограмовано. Люди розвивалися і вчилися на помилках. Якщо ми запрограмуємо досконалість, то зіткнемося з перешкодами природного шляху розвитку. В системі повинно бути якесь тертя, тому що воно дозволяє нам рости. Це - як вітер проти дерев. Ми зазвичай вважаємо за краще позбавлятися від тертя в нашому житті, щоб все навколо було просто і радісно. Я не думаю, що UVB повинен бути запрограмований, як рожеві окуляри, щоб давати нам тільки візуальні солодощі, щоб задовольняти всі наші бажання. І зараз ми бачимо, як це відбувається в інтернеті.

Упередженість і інші слабкості ІІ

- Але сьогодні ми в основному створюємо ІІ, щоб він допомагав. Значить, необхідно гарантувати відсутність помилок. А якщо створимо ІІ з функцією випадковості, з'явиться нова свідомість і ми не зможемо покладатися на нього.

- Це все одно може статися. Ми говоримо про дві різні речі - про сильному ІІ і слабкому ІІ. Слабкий вже існує. Сильний - це якесь окреме свідоме істота, яка живе окремо від нас. Якщо, наприклад, ІІ шукає пухлини, досліджуючи рак, ви захочете зробити його максимально точним. А якщо ІІ створюється швидше для тих завдань, про які говорю я, - тут доречна дискусія про запрограмованому недосконалість.

«Я не програміст або ІІ-інженер, я перебуваю на етико-філософської стороні питання. Говорячи про нову візуальної середовищі, я впевнений: ІІ повинен мати недосконалості - якийсь елемент випадку. Зворотною ситуацією буде цифрове перекриття і стирання всієї реальності, яку ми не хочемо бачити. Мені це не здається здоровим ».

- Але ІІ-інженери зараз створюють наше майбутнє на власний розсуд. Те ж саме відбувалося з інтернетом і соціальними мережами. І їх творці вже почали вибачатися за це перед світом. Чи повинні встановлюватися правила перед створенням нових технологій?

- Так, і я беру участь в цих обговореннях. Я член IEEE - це найстаріша організація в світі, яка визначає інженерні стандарти, а також працює з питаннями етики. Перебуваю в робочій групі Algorithmic Bias, де ми прямо обговорюємо аспекти існування людських упереджень і упередженості в алгоритмах ІІ. Наприклад, упередження щодо раси, якщо ми говоримо про судову практику. Це велика проблема. Упередженості щодо медицини, якщо ми говоримо про страхові компанії: хто отримає виплати, хто - ні і чому.

Ці дискусії існують. Люди усвідомлюють потужність ІІ. І важливо обговорювати це заздалегідь, а не ретроактивно. Але незважаючи на це, завжди перемагають гроші. Якщо можна отримати прибуток, етика в технологіях відсувається в сторону. Чи знало керівництво Facebook про всі проблеми, які зараз вилізли на поверхню? Може, немає, а може, вони знали все це час і зараз прикидаються здивованими. Тому що у разі Facebook - вони не хочуть контролюватися як медіакомпанія.

Одна справа - вести ці дискусії, а інше - впроваджувати їх результати на законодавчому рівні. Подивимося, відбудеться це чи ні.

- Чи боїтеся того, що можуть принести нам технології?

- Я б не сказав, що боюся, скоріше, стурбований. Не знаю жодного прикладу в історії, коли технологія використовувалася етично вірно усіма стейкхолдерами впродовж циклу її існування. Я прагматик - і розумію, що як тільки ящик Пандори буде відкритий, ми вже не зможемо його закрити. А його вже відкрили, якщо говорити про ІІ.

«Я уявляю собі нові технології як гігантський корабель. Він уже покинув порт і направляється у відкритий океан. Жодна людина, жодна компанія не може контролювати, куди він пливе. Його можна просто направляти в безпечну гавань. Мені здається, це найкраще, на що ми зараз здатні. Навіть якщо не вийде, - варто спробувати. Я відчуваю свою відповідальність перед дітьми і наступними поколіннями - і намагаюся направити цей корабель в етичні води. Але не можу це контролювати ».

Інтерактивні міські простору

- Ви в основному працюєте з AR в сфері мистецтва. Як AR змінить взаємодія з містами?

- Люди не вважають це частиною AR, але вже давно існують технології відеомаппінга - проектування на міський простір, яке може видозмінюватися за допомогою збору даних. Мені здається, міські простору стануть більш інтерактивними - з ними можна буде взаємодіяти з допомогою жестів, дотиків. Це залежить від певного місця в місті.

Можна назвати приклади, пов'язані з біометричними даними. Наприклад, ви йдете по місту, він реагує на ваше біологічне стан. Якщо холестерин занадто високий, певні вивіски ресторанів можуть приглушатися, інші будуть світитися яскравіше - в залежності від їжі, яка вам більше потрібна в даний момент. Тут є питання з боку етики збору і використання даних, але це - потенційне використання технологій.

Проект «DIGITAL NEURON» в Женеві, 2016 рік. Фото: heavy.io

- Ви говорите про місто, ніби це незалежне істота з доброю волею. Але зараз міста контролюються - урядами, компаніями, людьми. Чи вважаєте, що місто треба захистити від контролю, - і він повинен стати незалежним?

- Не обов'язково. Мені здається, це все можна пов'язати - монетизація не повинна скасовувати суспільні блага. Заробляння грошей саме по собі не є злом. Іноді можна отримувати більше прибутку, піклуючись про людей. Якщо вони будуть здоровішими, від цього виграють багато.

Змусити людей думати

- Що ви робите з AR в сфері мистецтва?

- Розповім, як прийшов до цього. Я також займаюся академічними дослідженнями. Досліджував графіті, стріт-арт і їх зв'язок з рекламою на білбордах в Південній Каліфорнії, звідки я сам. І дивився на юридичну прірву між ними.

Високоприбуткове комерційне розміщення білбордів теж може бути незаконним, але міська влада часто закривають на це очі. Наприклад, хтось може прийти до власника будівлі і заплатити йому безпосередньо, щоб встановити рекламу. Чи не ліцензуючи. Це незаконно, але в таких випадках люди не отримують великі штрафи. Коли я почав вивчати це питання, близько десяти років тому, в Лос-Анджелесі було три людини, які повинні були інспектувати 11-12 тис. Біл-бордів. Дуже невеликий відсоток цієї реклами ліцензувався по офіційних каналах. З рештою міська рада нічого не робив, а ця рада частково фінансувався рекламною індустрією. Не обов'язково бути генієм, щоб побачити тут зв'язок.

І з іншого боку - стріт-арт. Навіть за санкціоновані графіті люди отримували великі штрафи, деякі навіть потрапляли до в'язниць. Звідки цей розрив? Одне - прибутково, інше - ні. Стріт-арт створюється особистостями, які зазвичай маргіналізуються. У них немає грошей заплатити за білборди, тому вони створюють все самі.

Я зустрівся з одним другом в Нью-Йорку, його звуть Джордан Сайлер, ми розмовляли про AR. Він створив проект The Public Ad Campaign , В рамках якого фізично виймав комерційну рекламу - в основному на автобусних зупинках - і ставив на її місце роботи вуличних художників з усього світу. Він все ще цим займається. Це вид протесту. Ми почали робити це в AR - цифрове заміщення комерційної реклами кураторськими добірками стріт-арту. Спочатку зробили це на Таймс Сквер . Далі почали працювати з іншими художниками, щоб перенести їх роботи в AR, і створили власні.

Ми ніколи не збиралися робити бізнес, до сих пір не до кінця вважаю це бізнесом. Метою було змусити людей замислюватися про громадських місцях і їх природі. Також було цікаво змусити людей відірватися від комп'ютерів - в технічному сенсі. Вийти зі своїх будинків, піти в певну точку, щоб побачити цей AR. І нам сподобалося це, як свого роду протестна форма мистецтва, яку створювали по ходу.

- Чи може глядач взаємодіяти з цим мистецтвом?

- В ідеалі - так. Ми все ще на початкових стадіях побудови механізму цього діалогу. Мета - створити можливість для таких дискусій всередині мистецтва, тому що AR дозволяє це зробити. Глядач може поміняти щось в AR-проекції, надати їй щось нове.

Це все для нас - експеримент в прогресі. Жоден з проектів ми не залишили з відчуттям, що це - саме те, що хотіли зробити. Кожен проект нам здається хорошим стартом, хорошою ідеєю, над якою можна ще попрацювати.

- Один з ваших проектів переносив в AR вже існуюче мистецтво з минулого - роботи Дженні Хольцер . Наскільки AR буде повертати минуле?

- Проект з Дженні Хольцер передбачав не тільки цифрову реконструкцію, якраз в ньому було простір для взаємодії. Глядач міг змінювати повідомлення Хольцер. Ми думали, що вона не погодиться на це, але їй сподобалася ідея.

Реконструкція минулого - один з найбільш ранніх прикладів використання AR. Пройдіться по Венеції і подивіться, як вона виглядала раніше. Для мене магія AR полягає в тому, що вам потрібно бути безпосередньо в конкретному місці і те, що ви бачите, поєднується з фізичним простором. Не завжди виходить так зробити, але в ідеалі цифровий контент і фізичний світ повинні бути контекстуально пов'язані.

цифровий протест

- Багато проектів, в тому числі Ad Takeover на Таймс-сквер, сильно пов'язані з культурою графіті. Але ви переформатіруете міські простору в телефоні. Як у зв'язку з цим відносите себе з культурою стріт-арту?

- Є два окремих простору - фізичне і цифрове. Те, чим ми займаємося в цифровому просторі, - ніхто не може сказати, легально це чи ні, так як закони ще не були написані. У нас не було дозволів на проект на Таймс-сквер. Інша команда робила AR виставку в музеї MOMA в Нью-Йорку - художники наповнили простір цифровим мистецтвом і зробили щось на кшталт несанкціонованого шоу Діджитал-арту в його будинку. Люди поміщають об'єкти в AR над Білим домом. Я один раз робив це над ареною Staples Center під час гри NBA. Свобода цього поки що не обмежена простором, але є, звичайно, і мінуси. Тому що не всі можуть це побачити. Це абсолютно легітимна критика, і я теж думаю над цими питаннями. Припускаю, що одного разу це стане абсолютно всюдисущим - візуальним фоном, який все ділять між собою.

- Чи можете змусити людей думати, якщо ті, хто викачує ваші програми, вже готові до цього?

- Поточний відповідь на це: немає. Чи не тоді, коли засноване на додатках. Не можна автоматично зіштовхувати людей з повідомленням в громадському просторі, якщо вони не можуть його побачити. А вони не можуть, якщо у них немає телефону і додатки. Але те, що люди завантажили додаток, не означає, що вони знають про вміст цього додатка.

Едвін Діндер, Huawei Technologies: розумне місто - це ніщо

Мені подобається, що можна помістити повідомлення в суспільний простір, і люди будуть його бачити. Хоча це, звичайно, трохи лицемірно. Тому що наша головна претензія щодо реклами в громадських просторах полягає в тому, що її не можна вимкнути. Ви повинні дивитися на неї. Це проблема комерційної реклами, але графіті і стріт-арт стикаються з тим же питанням. Так що ми розриваємося. Тому що говоримо: дивіться, ми можемо надати цифрове нашарування контенту на реальність, яке ви можете включити. І одночасно вважаємо, що не повинні блокувати всю неприємну реальність.

- Думаєте, в UVB з'являться свої нелегальні художники?

- Я сподіваюся на це. Наприклад, якщо ви хочете, то зможете дозволити поява нелегального мистецтва в своєму UVB.

- Тоді воно вже не буде нелегальним.

- Буде - в тому сенсі, що ви не зможете контролювати учасників. Ви тільки припускаєте чи ні поява цих повідомлень у власному візуальному світі - повідомлень, з якими можете бути не згодні.

Відлуння-камери і покоління AI natives

- Ви хочете дати людям можливість закрити всю рекламу в їх доповненої реальності. Ролан Барт в його «Міфологія» теж звертався до комерційної реклами. Але його метою була деконструкція повідомлення - розкриття його штучності. Ви ж хочете просто приховати всі ці повідомлення. Здається, що це правильний спосіб?

- Блокування реклами - це свого роду її деконструкція. Ви і так знаєте, що там. Ми не хочемо блокувати всі. І якщо ви не знаєте, що всюди громадські простору використовуються для трансляції повідомлень, то ви просто не жили. Якщо є кілька повідомлень, реклам, білбордів, які перекриті цифровим мистецтвом, то акт цього перекриття сам по собі є результатом мислення. Погодився б з вашою тезою, якби ми перекривали всі.

- Але це не перекриє всі?

- Думайте ширше: в цьому не буде потреби. Наприклад, приміщення реклами на Таймс-сквер коштує $ 100 тис, а ми можемо використовувати цю рекламну площадку як шар для графічного контенту, для нас це практично безкоштовно. І хто завгодно може помістити поверх цієї реклами що завгодно. Тоді в чому полягає вартість фізичної реклами? У неї все ще є вартість, але вона точно буде набагато нижче.

Проект «VARIATIONS» в Сент-Луїсі, 2013 рік. Фото: heavy.io

- Одна з ваших цілей - дати людям можливість закривати цю рекламу. Але не думаєте, що коли така технологія з'явиться, люди будуть закривати все, що їм не подобається? Реальне простір перетвориться на такий же маленький міхур, луна-камеру (echo chamber - «Хайтек»), як стрічки соціальних мереж.

- Це можливо. Ми повертаємося до питання про алгоритм, який буде керувати цим. Якщо визнаємо необхідність якоїсь сили тертя як умови для розвитку людини, то алгоритм буде запрограмований так, щоб показувати частку випадкового контенту. Якщо ви не захочете бачити графіті, деякі види архітектури, і щось ще, - ІІ зрозуміє це і заблокує їх, накладе інше зображення. Це велика небезпека - ніхто не може гарантувати, що так не станеться. Мені здається, що це погана ідея - створення цифрової казкової країни, де ви бачите тільки те, що хочете.

- Але чи думаєте, що це станеться?

- Песиміст в мені говорить «так», це трапиться на якомусь рівні. Але я бачу - і не бачив цього якийсь час назад, що зараз такі питання обговорюються усіма стейкхолдерами. Тому що очевидно: коли ІІ суміститься з AR, це змінить наше життя. Замість digital natives з'являться AI natives - люди, які виростуть в цьому світі і не будуть замислюватися про це. Як тільки це буде інтегровано в тканину нашого суспільства, обговорювати етичні питання стане важче. Так що одночасно сподіваюся на краще і залишаюся реалістом - розуміючи, що такі технології будуть використовуватися в першу чергу для комерційної вигоди і продажу людям товарів.

- Чому ви займаєтеся мистецтвом?

- Мистецтво допомагає зрозуміті собі як людей и особистостей, а не просто купу Даних, - якові ми поступово стаємо з точки зору рекламодавців. Коли суспільство занадто близько підходить до якоїсь межі, мистецтво повертає до цього, коригує курс, коли нам це треба. Тому в мистецтві є перманентні теми, що зустрічаються у всіх культурах. Не важливо, з якої точки світу ви. Ми всі поділяємо, наприклад, спільний культурний розуміння музики. Музика допомагає подолати політичні розбіжності, які розривають соціальну тканину. Мистецтво в цілому тяжіє до спільності - люди в своєму роді збираються навколо нього, як в первісні часи збиралися навколо багаття.

- Ви сказали, що ми перетворюємося в набір даних. Що тоді робить нас людьми? І в чому буде відмінність між ІІ і людиною, коли ІІ буде досить розвинений? Чи буде це мистецтво?

- Не знаю, навіть слабкі ІІ вже роблять успіхи в мистецтві. Сценарії, візуальне мистецтво, музика. Може, насправді це наше недосконалість.

- Ви ж хотіли вмонтувати це в ІІ?

- Так, і може, в кінцевому підсумку варто це зробити. Я не впевнений, що можна протягом життя одного покоління створити репліку мільйонів років еволюції. Люди розвивалися через недосконалість, через що здійснюються помилок, через цієї сили тертя життя. Креативність - це впертість недосконалості. Я не впевнений, що це може бути запрограмовано.

Карло Ратті, Senseable City Laboratory (MIT) - про міста майбутнього, третьої шкірі людини і роболодках

Коли говорю про випадковість алгоритмів ІІ, швидше за маю на увазі, що вони не повинні створювати навколо нас цю луна-камеру з усього, що нам подобається. Я не хотів би жити в такому світі і не буду використовувати такі ІІ, AR, UVB, якщо вони будуть доступні. Мені подобається подорожувати, тому що знайомлюся з випадковими людьми, несподівано. Чи випадково це? Це вже більш серйозний філософське питання. По крайней мере, виглядає випадковим.