Изкуственият интелект бързо става умен. Скорошните пробиви на технологията, проявяващи се във впечатляващите възможности на приложения като ChatGPT, предизвикаха страх, че A.I. може скоро да превземе човечеството - и то не по добър начин. Миналата година инженер от Google заяви, че A.I. чатбот LaMDA беше толкова интелигентен, че стана „чувствителен“. Тази година, разтревожени от потенциалната опасност от ИИ, група от повече от 1000 технологични предприемачи и академици, включително Илон Мъск, през март призова за шестмесечна пауза в обучението на A.I. системи по-напреднал от GPT-4 на OpenAI, най-новият езиков модел, захранващ ChatGPT.
Въпреки че приложенията с голям езиков модел (LLM), като ChatGPT и Bard на Google, са показали потенциала да превъзхождат хората в много задачи и да заменят работни места, те в никакъв случай не са същите като човешкия мозък, тъй като основните механизми за обучение са различни, Дейвид Феручи, компютърен учен и ранен пионер на комерсиалния ИИ. заявление, съобщиха за Наблюдател.
Феручи е най-известен като създателя на IBM Watson. Разработен в края на 2000-те, за да отговаря на въпроси в телевизионното шоу с викторини Опасност! , компютърната система в крайна сметка победи човешки състезатели в играта през 2011 г.
'Когато Опасност! Предизвикателството беше предложено в началото на 2007 г., аз бях единственият в IBM Research, дори в академичната общност, който смяташе, че това може да се направи и всъщност се записах да го преследвам,” каза Феручи в интервю за Observer.
В основата си IBM Watson е система, базирана на машинно обучение, която се е научила как да отговаря Опасност! въпроси чрез усвояване на големи количества данни от предишни предавания. Той се появи в момент, когато дълбокото обучение, подгрупа на изкуствения интелект, започваше да се налага. Преди това компютърните системи разчитаха до голяма степен на човешко програмиране и надзор.
През 2012 г., малко след хитовия успех на Watson, Ferrucci напусна IBM след 18 години, за да ръководи A.I. изследвания за Bridgewater Associates , най-големият хедж фонд в света. През по-голямата част от последното десетилетие работата на Ferrucci се фокусира върху разработването на хибриден AI, който се стреми да комбинира машинно обучение, управлявано от данни, с логически разсъждения – с други думи, да обучава алгоритмите да „мислят“ повече като хора.
През 2015 г. Bridgewater финансира първоначално вътрешен проект, ръководен от Ferrucci, който в крайна сметка се отдели като независима компания, наречена Елементарно познание . Хибридният изкуствен интелект на Elemental Cognition приложенията могат да се използват при управление на инвестиции, логистично планиране и откриване на лекарства, според уебсайта му. През февруари стартъпът подписа Bridgewater като клиент.
В интервю за Observer по-рано този месец Феручи обсъди различните процеси на обучение на ChatGPT и човешкия мозък, необходимостта от хибриден AI и защо смята, че предложението за шестмесечен AI. паузата е по-скоро символична, отколкото практична.
кога е следващият сезон на shameless в netflix
Следният препис е редактиран за яснота.
Какво точно е хибридният изкуствен интелект?
Хибридният AI съчетава управляван от данни, индуктивен процес с логически управляван процес. Машинното обучение е процес, управляван от данни. Ще се подобрява само с повече и повече налични данни за обучение. Но за да общувате с хората, вие също се нуждаете от логика и разсъждение.
Човешкото познание работи по същия начин, както е обяснено в книгата на Даниел Канеман Мислене, бързо и бавно. Човешкият мозък работи, като мисли бързо и бавно едновременно. За да постигнете прецизно и надеждно вземане на решения, имате нужда от най-доброто от двата свята.
Как бързото мислене е различно от бавното? Защо имаме нужда и от двете?
Бързото мислене е, когато екстраполираме от нашия опит или данни и след това обобщаваме. Обобщението обаче може да е погрешно, защото се основава на повърхностни характеристики, които може да корелират в данните, но всъщност не са причинно-следствени - това е основата на предубеденото мислене.
Бавното мислене е формулиране на модел за това как мисля, че нещата работят: Какви са моите ценности? Какви са моите предположения? Какви са моите правила за извод? И каква е моята логика за извод?
Когато говорим за A.I. днес сме склонни автоматично да мислим за машинно обучение, което, както казахте, е процес, управляван от данни. Има ли примери от реалния свят за чисто логически управляван ИИ?
Да, управляван от логиката A.I. е асимилиран в много приложения от реалния свят. Официални представяния на логиката за решаване на проблеми, като системи, базирани на правила или системи за разрешаване и оптимизиране на ограничения, се използват за приложения за управление на ресурси, планиране, планиране, контрол и изпълнение.
Но ние не мислим за тях като за ИИ. вече, до голяма степен защото с революцията в големите данни и машинното обучение, ИИ. стана силно свързан със системите за машинно обучение.
Къде се намират LLM като GPT и LaMDA в спектъра на бързо/бавно мислене? Наистина ли са близо до човешкия интелект, както заяви инженер на Google миналата година?
LLM произвеждат големи структури от данни, които улавят статистическите вероятности на определени последователности от думи, следващи други последователности от думи. Това, което ChatGPT прави, са статистически прогнози, базирани на повърхностните характеристики на езика. С достатъчно данни за обучение и наистина мощни техники за машинно обучение, тези модели могат да имитират свободно звучащ език.
Това не е логично разсъждение. Трудно е да се спори, че голяма таблица за вероятности е разумна. Бих казал, че не. Въпреки това, едно интересно нещо за човешкото познание е, че ние свързваме свързано звучащ текст с факти. Ние сме като, това звучи наистина добре, трябва да е вярно. Но истината изисква по-дълбоко разбиране и анализ отвъд повърхностните характеристики на езика.
Нервен ли си от A.I. в крайна сметка да надхитри хората?
ИИ може да изпълнява определени задачи по-добре от хората. Вярно е от години. Днес, когато данните и техниките за обучение се подобряват, става все по-лесно и по-лесно да се обучава ИИ. системи за извършване на повече човешки задачи. Мисля, че това е много важно. Но не мисля, че A.I. ще поеме. Няма независим субект, който да иска да ви завладее. Въпреки това, A.I. може лесно да се злоупотребява. Мисля, че това е истинско безпокойство.
Elemental Cognition наскоро подписа Bridgewater като клиент, който също е ранен инвеститор във вашата компания. Как може хибридният изкуствен интелект помогнете на инвестиционните мениджъри да разберат по-добре икономиката и пазарите?
Разбирането на икономиката идва в две форми: идентифициране на модели в данните и тълкуване на тези модели, за да се разбере какво се случва.
При управлението на инвестициите крайната цел е да се направят точни прогнози чрез разглеждане на икономически показатели, като лихвени проценти и цени на акциите. Данните могат да ви кажат много. Ако можете да видите модели в данните, това е наистина мощно. И ако можете да интерпретирате моделите и да разберете какво се случва в икономиката, тогава имате друга перспектива. Това е почти като да правите проверки и баланси: ето корелациите, показани в данните, и ето моето разбиране за това как работят нещата. Съгласни ли са или не?
Какво мислите за предложението да поставите на пауза A.I. обучение за шест месеца?
Не мисля, че това е практично като начало, защото големите езикови модели не са тайна. Винаги ще има компании, които работят по тях. Ще продължим да виждаме много експерименти. Не мисля, че има смисъл да спирам този експеримент.
Но мисля, че има смисъл да направя крачка назад и да помисля добре за това. Политиците трябва да започнат да мислят как да регулират ИИ. защото може да се злоупотребява по много начини. Вероятно ще станем свидетели на разработване и прилагане на регулация.
