Напредъкът на изкуствения интелект може да доведе до края на човешкото съществуване, каквото го познаваме, според изключително кратко отворено писмо, публикувано вчера (30 май) и подписано от големи технологични ръководители, учени от AI, академици и, донякъде неуместно, музикантът Граймс .
„Намаляване на рисковете от изчезване от A.I. трябва да бъде глобален приоритет наред с други рискове от обществен мащаб, като пандемии и ядрена война“, кратко изявление чете. Публикуван е от Центъра за ИИ. Безопасност (CAIS), организация с нестопанска цел, фокусирана върху защитата на внедряването на технологията.
Краткото предупреждение, което не включва контекстуална информация относно сериозното предположение, следва две скорошни отворени писма, загатващи за потенциални опасности, породени от A.I. проучване и внедряване.
През март повече от 1000 експерти от индустрията, включително Илон Мъск и съоснователят на Apple Стив Возняк подписал писмо призовава за шестмесечна пауза на A.I. развитие за проучване на рисковете и разработване на протоколи за безопасност. Следващия месец, беше публикувано друго писмо от членове на Асоциацията за развитие на изкуствения интелект, включително Microsoft Ерик Хорвиц, главен научен директор, предупреждава за способността на ИИ да дава възможност на лошите актьори.
Спешността на двете предишни съобщения бледнее в сравнение с тази на краткото изявление на CAIS, което твърди, че целта му е да „създаде общо познание за нарастващия брой експерти и обществени личности, които също приемат сериозно някои от най-тежките рискове на напредналия ИИ. ”
Освен Граймс, други неочаквани поддръжници на писмото включват подкастъра Сам Харис, ръководителя на TED Крис Андерсън и Керсти Кальюлайд, бившия президент на Република Естония. Подписалите, които се открояват обаче, не са тези, които изглеждат неуместни, а по-скоро онези, които са изградили кариера от същата технология, която сега предупреждават, че може да доведе до изчезване.
Сам Алтман, главен изпълнителен директор на OpenAI
Сам Алтман, ръководител на ChatGPT-maker OpenAI , подписа писмото заедно със съоснователите Иля Суцкевер, Джон Шулман и трима други ръководители на OpenAI.
За първи път стартира през 2015 г. като организация с нестопанска цел, целяща да развие A.I. по безопасен начин компанията се насочи към хибрид модел на „ограничена печалба“. през 2019 г. През ноември пусна A.I. chatbot ChatGPT, който бързо стана вирусен и предизвика опасения относно потенциала му да пишете училищни задачи и замени работната сила.
Пазарната оценка на OpenAI беше между 27 и 29 милиарда долара към април.
Въпреки подкрепата си за спешното предупреждение в писмото, Алтман преди това похвали възхода на все по-усъвършенствания ИИ. системи. „Тази революция ще създаде феноменално богатство“, каза той в a Публикация в блог за 2021 г . „Цената на много видове труд (която движи разходите за стоки и услуги) ще падне към нула, след като достатъчно мощен ИИ „се присъедини към работната сила.““
Джефри Хинтън, А.И. пионер
Двама членове на трио компютърни учени, известни като „кръстниците на ИИ“ също обещаха подкрепата си за неотдавнашното писмо.
Подписалите се Джефри Хинтън и Йошуа Бенгио са работили в A.I. поле в продължение на десетилетия и, с Yann LeCun, помогна да се положат основите за развитието на технологията. Тримата получиха наградата Тюринг през 2018 г.
Хинтън и Бенджио, понастоящем професори съответно в Университета на Торонто и Монреалския университет, изразиха загриженост относно напредъка на ИИ.
По-рано този месец Хинтън каза на Ню Йорк Таймс той напусна работата си в Google да говорим за рисковете от A.I ., добавяйки, че сега съжалява за работата на живота си. „Трудно е да се види как можете да попречите на лошите актьори да го използват за лоши неща“, каза той.
Бенджио изразиха подобни чувства да се Би Би Си днес (31 май) разкриването на заплахата от ИИ го накара да постави под съмнение годините си изследвания. „Може да се каже, че се чувствам изгубен“, каза той.
Междувременно LeCun, главният A.I. учен от Мета, реши да не подпише писмото.
Демис Хасабис, главен изпълнителен директор на Google DeepMind
Няколко служители на Google, включително повече от десет, работещи за неговата машина за обучение A.I. стартъп DeepMind, са подписали изявлението. Списъкът включва главния изпълнителен директор и съосновател на DeepMind Демис Хасабис, който преди е работил като A.I. програмист за видео игри в Lionhead и Elixir.
DeepMind беше закупен от Google през 2014 г. за около 500 милиона долара. Hassabis призова компанията да действа с повишено внимание и твърди, че изкуственият общ интелект (A.G.I), термин, отнасящ се до компютри с когнитивни способности, сравними с тези на човешките същества, може да се появи през следващото десетилетие .
„Бих се застъпвал не движейки се бързо и чупейки неща,” Хасабис каза време през януари, добавяйки, че вярва, че печалбите от A.G.I. трябва да се преразпределят равномерно.
Отделението на Хасабис обаче набира скорост през последните няколко месеца. Google DeepMind беше създаден през април, след като Google обедини отделите, фокусирани върху AI, DeepMind и Brain, за да „ ускоряване на напредъка към свят, в който AI може да помогне за решаването на най-големите предизвикателства, пред които е изправено човечеството .” И по-рано тази година Google обяви в рамките на приходите си за Q4 за 2022 г че финансовата информация на DeepMind сега ще се отчита под корпоративните разходи на Alphabet, тъй като става все по-често използвана от компанията.
Граймс, музикант и продуцент
Граймс, еклектичният музикант и бивш романтичен партньор на съоснователя на OpenAI, Мъск, експериментира с технологията през цялата си кариера, като я използва за създаване на ИИ приспивна песен за сина си и ан ИИ чатбот обучена от собствените си маниери.
„Мисля, че A.I. е страхотно“, каза тя на Ню Йорк Таймс. „Просто чувствам, че творчески, мисля, че A.I. може да замени хората.'
Най-новият A.I. проект от Grimes, чието истинско име е Claire Boucher, беше пуснат този месец под формата на Elf.Tech, ИИ софтуерна програма, която позволява на феновете да дублират нейните вокали да създават свои собствени песни. „Харесва ми идеята за отворен код на цялото изкуство и унищожаване на авторските права,“ туитна художникът, който предлага 50 процента разделение на роялти за успешни песни, произтичащи от A.I. програма.
Дарио Амодей, главен изпълнителен директор на Anthropic
Антропен Дарио Амодей подкрепи изявлението заедно със съоснователите Джаред Каплан и Крис Ола. Сестра му Даниела Амодей, президент на Anthropic, също подписа писмото.
Амодей е работил преди това в Google, Baidu и OpenAI, преди да напусне последната компания през 2020 г., за да оглави своя собствена ИИ. започвам, която беше оценена на 4,1 милиарда долара през март .
Подкрепеният от Google стартъп също събра 450 милиона долара в кръг на финансиране този месец, най-големият A.I. кръг на финансиране през 2023 г. след инвестицията на Microsoft OpenAI по-рано тази година.
Основният продукт на Anthropic е Claude, чатбот, който започна да тества през януари с избрана група потребители. Клод беше обучен с набор от морални насоки за да се избегнат обидни отговори от страна на ИИ. инструмент за чат, който се основава на Декларацията на ООН за правата на човека и правилата на Apple за поверителност на данните. Процесът на стартиране на създаване на „безвреден ИИ. асистент” беше изложено в a Декември бяла книга .
По-рано този месец, заедно с други A.I. Изпълнителни директори като Алтман, Амодей се срещна с президента Байдън да обсъдят как да прилагат регулациите в ИИ. индустрията, за да смекчи риска.
Кевин Скот, технически директор в Microsoft
Ръководители от A.I. мощната компания Microsoft също подписа писмото, включително главния технологичен директор на компанията Кевин Скот.
защо чаят те кара да пикаеш
Microsoft е инвеститор в OpenAI – партньорство, удължено през януари в сделка за няколко милиарда долара. Той захранва своята търсачка Bing с ChatGPT.
Скот, който каза, че 2023 г. ще бъде „t най-вълнуващата година, в която A.I. обществото някога е имало, ” твърди, че Microsoft подобрява своя отговорен ИИ. процеси, предназначени да смекчат вредата от технологията.
Но въпреки подписването на изявление, в което се твърди, че A.I. има потенциал да унищожи човешката цивилизация, Скот е автор на книгата от 2020 г Препрограмиране на американската мечта , в която се твърди, че А.И. може да революционизира предприемачеството в селските градове. Microsoft също така силно се фокусира върху A.I. през последните месеци, твърдейки натискането ще доведе до увеличени печалби за компанията във времето.
Какво ще постигне още едно отворено писмо?
Фактът, че толкова много подписали имат финансови връзки с A.I. компаниите за научноизследователска и развойна дейност накара някои да се чудят дали неотдавнашните призиви за повишено внимание са PR трик или може би начин за получаване на конкурентно предимство в една все по-натоварена индустрия.
По-рано този месец техническият директор на Microsoft беше попитан за балансът между големия ИИ. компании, търсещи регулации, които само ги облагодетелстват и регулаторна среда, съставена от по-малки конкурентни стартиращи предприятия. „Мисля, че трябва да имаме и двете“, каза Скот Verge . „Не мисля, че има нещо априори, при което едното изключва другото.“
Алтман също така призова за повече регулации в ИИ. индустрията, изразявайки опасения, че технологията може да бъде използвана от авторитарни режими или използвана за кибератаки, но въпреки това желанието му за регулаторен надзор изглежда избирателно, тъй като Алтман също по-рано заяви, че OpenAI може да напусне ЕС. поради потенциалното „прекомерно регулиране“ на ИИ в региона.
Фокусирайки се върху разстройващите, но малко вероятни последици от ИИ. внедряването измества вниманието на регулаторите от действителните рискове, породени от изкуствения интелект, предложи професорът по право от Университета на Вашингтон Райън Кало в поредица от туитове . „Решаването на непосредствените въздействия на ИИ върху труда, поверителността или околната среда е скъпо. Защитата срещу AI по някакъв начин „събуждане“ не е.“
