Кажете на вашето коте какво мислите вътре - ефектът на черната кутия
Фактът, че усъвършенстваните AI алгоритми са като черна кутия (1), която изхвърля резултат, без да разкрива как е възникнал, тревожи някои и разстройва други.
През 2015 г. изследователски екип в болница Mount Sinai в Ню Йорк беше помолен да използва този метод, за да анализира обширна база данни от местни пациенти (2). Тази огромна колекция съдържа океан от информация за пациенти, резултати от тестове, лекарски предписания и др.
Учените нарекоха аналитичната програма, разработена в хода на работата. Той се обучава на базата на данни от около 700 XNUMX души. при хора и когато е тестван в нови регистри, се оказа изключително ефективен при прогнозиране на болести. Без помощта на човешки експерти, той откри модели в болничните досиета, които показват кой пациент е на път към заболяване, като рак на черния дроб. Според експерти прогностичната и диагностична ефективност на системата е много по-висока от тази на всички други известни методи.
2. Медицинска система с изкуствен интелект, базирана на бази данни за пациенти
В същото време изследователите забелязаха, че работи по мистериозен начин. Оказа се например, че е идеален за разпознаване на психични разстройствакато шизофренията, което е изключително трудно за лекарите. Това беше изненадващо, особено след като никой нямаше представа как AI системата може да види психичните заболявания толкова добре въз основа само на медицинските досиета на пациента. Да, специалистите бяха много доволни от помощта на такъв ефективен машинен диагностик, но биха били много по-доволни, ако разберат как AI стига до своите заключения.
Слоеве от изкуствени неврони
От самото начало, тоест от момента, в който концепцията за изкуствения интелект стана известна, имаше две гледни точки за ИИ. Първият предполага, че би било най-разумно да се изградят машини, които разсъждават в съответствие с известни принципи и човешка логика, правейки вътрешната си работа прозрачна за всички. Други вярваха, че интелигентността ще се появи по-лесно, ако машините се учат чрез наблюдение и повтарящи се експерименти.
Последното означава обръщане на типичното компютърно програмиране. Вместо програмистът да пише команди за решаване на проблем, програмата генерира собствен алгоритъм въз основа на примерни данни и желания резултат. Методите за машинно обучение, които по-късно се превърнаха в най-мощните AI системи, известни днес, току-що тръгнаха по пътя на, всъщност, самата машина програмира.
Този подход остава в периферията на изследванията на AI системите през 60-те и 70-те години. Едва в началото на предишното десетилетие, след някои пионерски промени и подобрения, „Дълбоки“ невронни мрежи започнаха да демонстрират радикално подобрение във възможностите на автоматизираното възприятие.
Дълбокото машинно обучение е дарило компютрите с изключителни способности, като например способността да разпознават изговорени думи почти толкова точно, колкото човек. Това е твърде сложно умение, за да се програмира предварително. Машината трябва да може да създава своя собствена "програма" от обучение върху огромни набори от данни.
Дълбокото обучение също промени разпознаването на компютърни изображения и значително подобри качеството на машинния превод. Днес той се използва за вземане на всякакви ключови решения в медицината, финансите, производството и др.
Въпреки това, с всичко това не можете просто да погледнете вътре в дълбока невронна мрежа, за да видите как работи "вътре". Процесите на мрежово мислене са вградени в поведението на хиляди симулирани неврони, организирани в десетки или дори стотици сложно взаимосвързани слоеве..
Всеки от невроните в първия слой получава вход, като например интензитета на пиксел в изображение, и след това извършва изчисления, преди да изведе изхода. Те се предават в сложна мрежа към невроните на следващия слой - и така нататък, до крайния изходен сигнал. Освен това има процес, известен като коригиране на изчисленията, извършвани от отделни неврони, така че тренировъчната мрежа да произвежда желания резултат.
В често цитиран пример, свързан с разпознаването на изображения на кучета, по-ниските нива на AI анализират прости характеристики като форма или цвят. По-високите се занимават с по-сложни проблеми като козина или очи. Само горният слой обединява всичко, идентифицирайки пълния набор от информация като куче.
Същият подход може да се приложи към други типове входни данни, които захранват машината да се учи сама: звуци, които съставляват думи в речта, букви и думи, които съставят изречения в писмен текст, или волан, например. движения, необходими за управление на превозно средство.
Колата не пропуска нищо.
Прави се опит да се обясни какво точно се случва в подобни системи. През 2015 г. изследователи от Google модифицираха алгоритъм за дълбоко обучение за разпознаване на изображения, така че вместо да вижда обекти в снимки, той ги генерира или модифицира. Като пуснат алгоритъма назад, те искаха да открият характеристиките, които програмата използва, за да разпознае, да речем, птица или сграда.
Тези експерименти, известни публично като заглавието, създадоха невероятни изображения на (3) гротескни, странни животни, пейзажи и герои. Чрез разкриването на някои от тайните на машинното възприятие, като например факта, че определени модели се връщат многократно и се повтарят, те също показаха колко дълбоко машинното обучение се различава от човешкото възприятие - например в смисъл, че разширява и дублира артефакти, които игнорираме в нашия процес на възприемане без мислене . .
3. Изображение, създадено в проекта
Между другото, от друга страна, тези експерименти разкриха мистерията на нашите собствени когнитивни механизми. Може би в нашето възприятие има различни неразбираеми компоненти, които ни карат веднага да разберем и игнорираме нещо, докато машината търпеливо повтаря своите итерации върху „маловажни“ обекти.
Други тестове и проучвания бяха проведени в опит да се "разбере" машината. Джейсън Йосински той създаде инструмент, който действа като сонда, заседнала в мозъка, насочвайки се към всеки изкуствен неврон и търсейки изображението, което го активира най-силно. В последния експеримент се появиха абстрактни изображения в резултат на „надничане“ на мрежата, което направи процесите, протичащи в системата, още по-мистериозни.
За много учени обаче подобно изследване е недоразумение, тъй като според тях, за да се разбере системата, да се разпознаят моделите и механизмите на по-висок ред на вземане на сложни решения, всички изчислителни взаимодействия вътре в дълбока невронна мрежа. Това е гигантски лабиринт от математически функции и променливи. В момента това е неразбираемо за нас.
Компютърът не се стартира? Защо?
Защо е важно да разбираме механизмите за вземане на решения на усъвършенстваните системи с изкуствен интелект? Вече се използват математически модели, за да се определи кои затворници могат да бъдат освободени условно, на кого може да се даде заем и кой може да си намери работа. Тези, които се интересуват, биха искали да знаят защо е взето това, а не друго решение, какви са неговите основания и механизми.
той призна през април 2017 г. в MIT Technology Review. Томи Яккола, професор от MIT, работещ върху приложения за машинно обучение. -.
Има дори правна и политическа позиция, че способността да се изследва и разбира механизмът за вземане на решения на системите с ИИ е основно човешко право.
От 2018 г. ЕС работи върху изискването на компаниите да предоставят обяснения на своите клиенти относно решенията, взети от автоматизирани системи. Оказва се, че понякога това не е възможно дори със системи, които изглеждат относително прости, като приложения и уебсайтове, които използват дълбока наука, за да показват реклами или препоръчват песни.
Компютрите, които изпълняват тези услуги, се програмират сами и го правят по начини, които не можем да разберем... Дори инженерите, които създават тези приложения, не могат да обяснят напълно как работи.
