8. Кто все эти люди?

8. Кто все эти люди?

Ну что же, мы в общих чертах разобрались о чем ведутся споры, теперь давайте глянем кто их ведет.

Если представить алаймент-сообщество в виде двухпартийной системы, то партии получатся такие : 1. думеры (ололо нам конец, остановите AI) 2. технооптимисты (все великолепно — вперед к светлому будущему!).

Разумеется, на практике элегантная двухпартийность распадается на тысячи мелких мутных подпозиций, но все же, обычно можно определить к какому из полюсов тяготеет персонаж.

Яркие представители думеров:

1. Eliezer Yudkowsky. Батя думеризма — чуть ли не с девяностых призывает покаяться ибо грядет, развивает сообщество, пишет статьи и даже основал собственный исследовательский институт. Имеет слегка фриковскую репутацию — видимо из-за специфической подачи и чувства юмора (выдернутое из контекста “будем бомбить датацентры” и “die with dignity” ему периодически припоминают). Выглядит он кстати тоже как тролль в шляпе, что только добавляет очков фриковатости.

Но на самом деле дядька Элиезар обладает острым умом и слушать его апокалиптические разгоны сплошное удовольствие. Он знает тысячу и одну сказку про то как ASI может нас грохнуть (будущему злобному ИИ есть откуда набраться вдохновения) и здорово сочетает фикшн и нон-фикшн. В последнем можно убедиться в его последней книге “If anyone builds it everyone dies” (рекомендую – весьма годно чтиво). Он же кстати автор полуфикшена “Гарри Поттер и методы рационального мышления”, которую я лично не читал, но книга культовая. Однако, мы отвлеклись.

2. Connor Leahy — вице-президент думеризма. Менее фриковат чем Элиезар, но тоже не дурак обострить дискуссию. Да и внешка у него тоже запоминающейся (по его собственному признанию, он специально напялил образ кринжового металхеда, чтоб лучше прорезать инфопространство). Конор классный оратор и отличный дебатёр. Можно брать любое интервью или подкаст с ним — будет весело. Помимо болтовни на подкастах не забывает и о мирском — Конор основатель конторы Conjecture, которая, конечно, занимается AI safety research, однако и продавать что-то AI'ное и непонятное энтерпрайзам не забывает.

А еще, в доисторические времена Конор с группой энтузазистов из говна и палок собрал альтернативу GPT3. Чем слегка подпалил пердак тогдашнему OpenAI. Так сказать устроил “DeepSeek moment” до того, как это стало мейнстримом.

В общем, несмотря на отталкивающий визуальный стиль, это, пожалуй, мой любимый тип из всей тусовки. Если б я выбирал персонажа чтоб сыграть в AI алаймент — я катнул за этого усатого таракана.

3. Роман Ямпольский — дядька с мрачным луком ветхозаветного пророка и обреченностью ослика Иа-Иа. Испрано ходит по подкастам и понуро рассказывает, что все пропало. Естественно он какой-то там профессор computer science. Кому-то заходит, но я лично люблю думеризм повеселее.

4. Geoffrey “Godfather of AI” Hinton - не уверен, можно ли его назвать полноценным думером (как будто бы его P(doom) маловат), но дискурс он исправно двигает в думерскую сторону.

В отличие от большинства думеров он практик — внес большую лепту в алгоритмы deep learning ‘а и работал в Google Brain (откуда ушел как раз по соображениям AI safety). Так что даже не просто практик, а элитнейший AI ресерчер.

В общем, пусть он не и такой крутой теоретик думеризма как Юдковский или Бостром, и не такой яркий оратор как Конор, но он несомненно важная карта в думерской колоде.

5. Nick Bostrom — автор книги Superintelligence — библии AI aligment'а. Там подробно (и несного душновэ, чего уж там) распедалены все аспекты проблемы. Книга эта 2014 года, но актуальности не потеряла. Так что если вы хотите фундаментально ознакомиься с вопросом и не боитесь нудноватости — рекомендую.

#ai