Meta* обяви първите резултати от работата по изкуствен интелект (AI), който е в състояние да се подобри независимо. Това твърдение предизвика интерес, но все още не е ясно какво се разбира под термина „самостоятелно“. Най -вероятно това е част от стратегията на компанията, насочена към укрепване на позициите в надпреварата за Superintekt – AI, която надминава човешките способности. Ръководителят на лабораторията за изкуствен интелект на Училището по мениджмънт Сколково Александър Диденко заяви, че подобни силни изявления често носят PR характер, сигнализиращи на акционерите и конкурентите да променят приоритетите на компанията.
Според Didenko работата на невронните мрежи е разделена на два етапа: обучение и отговори на заявки на потребители. На етапа на обучение сложна програма, наречена Pipes, анализира данните и образува вътрешните параметри на мрежата или „тегло“. Това е скъп процес, който изисква експерименти за оптимизация. Когато мрежата отговори на заявки, тя използва готови параметри, без да ги променя. Някои експерти смятат, че способността на AI да анализира искането преди отговора вече може да се нарече самостоятелно, но това е само формалност.
True Self -Means предполага, че самият AI разработва нови версии на своите програми, подобрява данните и дори проектира своята архитектура. В същото време човек си поставя само общи цели. Meta* вече е публикуван от научни статии, които описват стъпки в тази посока: от автоматично генериране на код до подобряване на учебните процеси без участие на човека. Въпреки това, няма пълноценна система, която да обединява тези развития. Съществуващите постижения ни позволяват да говорим за потенциал, но не и за завършено решение.
Създаването на SuperInteLelex е изправено пред сериозни ограничения. Невронните мрежи не могат да бъдат напълно автономни – целите им винаги са поставени от човек. Интересното е, че езиковите задачи, които хората смятат за сложни, са по -лесни за AI, отколкото интуитивни понятия. Например, много модели не разбират прости физически явления.
Невронните мрежи днес са соматично изолирани от физическата реалност. Ако попитате повечето неврони защо не можете да ядете супа под дъжда, повечето ще отговорят на нещо за перспективата за студ, игнорирайки простия факт, че под дъжда супата ще разтвори водата и ще стане безвкусна.
Александър Диденко
Ръководител на лабораторията по изкуствен интелект на Училището по мениджмънт Сколково
Друг проблем е сложността на интегрирането на различни ценностни системи в AI. Според резултатите от изследванията, различните AI имат различни стойности.
Има трудности в интеграцията в AI на различни ценностни системи. Нашите проучвания показват, че различни AI имат различни стойности – и „универсалното“ свръхспект, което има всички стойности едновременно, е невъзможно на сегашното ниво на технология.
Александър Диденко
Ръководител на лабораторията по изкуствен интелект на Училището по мениджмънт Сколково
Мета* също преглежда подхода към отвореността. Ако по -рано компанията сподели своите модели, сега тя е склонна към затворени разработки. Това се дължи на възможни рискове, които могат да възникнат при създаване на мощни AI системи. Компанията подчертава необходимостта от отговорен подход към подобни технологии.
Говоренето за заплахи от напълно самостоятелно обучение Superhuman AI вече е преждевременно. Последните скандали, например, с изучаването на антроп, където системата уж започна да изнудва потребителя, по -вероятно се отнася до обмислени PR събития, отколкото реална опасност.
Апокалиптичните ужасни истории в стила на „Терминатора“ са по -скоро проекция на опасенията на човечеството, че в един момент той ще се унищожи, а не от факта, че е имало твърде много изкуствен интелект, а от факта, че в допълнение е имало твърде малко естествена интелигентност и етика.
Александър Диденко
Ръководител на лабораторията по изкуствен интелект на Училището по мениджмънт Сколково
По този начин, говоренето за самостоятелно обучение на AI е по -скоро опит за привличане на внимание и обявяване на сериозни изследвания. Но истинското внедряване на подобни системи изисква много време и усилия, а настоящите технологии далеч не са фантастични изображения на SuperInteLelex.
* Принадлежи на мета, организацията е призната за екстремистка, дейностите му са забранени в Русия
