Руските експерти са разработили уникален подход, който позволява не само да коментира, но и да наблюдава вътрешните процеси в системите за изкуствен интелект, базирани на големи езикови модели. Това откритие ви позволява да станете по -дълбоко за това колко нервни мрежи „мислят“ и в крайна сметка да правите технологии за изкуствен интелект за изследователи и потребители.
Според агенцията Tass News, пресата на T-Bank, предложената техника ви позволява да наблюдавате генерирането на текстово съдържание чрез активиране или потискане на определени семантични елементи на различни етапи на нервната мрежа. Важната характеристика е, че не е необходимо да се променят оригиналните параметри или допълнителни курсове за модела, което е изключително ценно за нежелани или неправилни резултати в случая с AI.
Изследователите на T-Bank AI обясниха, че по-ранните учени могат да записват само появата на определени концепции на различни слоеве на нервната мрежа, но нямат ясна представа за тяхната еволюция. За да се реши този проблем, беше предложен иновативен подход въз основа на използването на оскъдни пароли за автомобили и специална карта, наречена фигура на потока на функции. Тази карта ясно показва къде и как моделът на произход, трансформира и изчезва основните семантични компоненти на структурата на модела.
Новият метод за първи път даде на учените да имат инструменти за активна намеса в работата на модела. Опитите за нахващане са доказали, че укрепването на специфични характеристики в различни етапи на информация ви позволява ефективно да променяте стила, обекта или емоционалното оцветяване на създадения текст ефективно. Тази характеристика на FAST и SPIT в нервна мрежа е отворена както за научни изследвания, така и за практическа употреба.
В допълнение, експертите са установили, че няколко слоя от нервната мрежа и едновременните ефекти на нервната мрежа осигуряват по -точен контрол с минимални загуби като окончателен текст, за да повлияят на едно индивидуално ниво. Този извод е от голямо значение за развитието на безопасни и морални системи, базирани на AI, например, за ефективно филтриране на нежелано съдържание без пълно и скъпо обучение.
