Генерал

Пристрасност у вештачкој интелигенцији захтева дисциплину и саосећање


Пристрасност у АИ је критично питање које је у порасту у последњих 18 месеци. Екстремни примери имају огромне последице, попут Амазоновог сексистичког бота за запошљавање и Мицрософтових покушаја АИ Твиттер-а.

Панел под називом „Решавање пристрасности у вештачкој интелигенцији“ на ЦЕС 2019, избегао је ове застрашујуће наслове и покушао да води пажљиву расправу о томе како направити значајну промену у сектору који се брзо шири.

Као и многи панели до сада, расправа се држала релативно строге линије око регулаторне контроле.

Представник панела и индустрије и владе

Мицхаел Хаиес, старији менаџер за владине послове при Цонсумер Тецхнологи Ассоциатион модерирао је разговором између чланова одбора Аустина Царсона из Нвидије, Бари Виллиамс, потпредседника за правне, политичке и пословне послове у Алл Туртлес-у, и Сунмин Ким-а, саветника за технолошку политику из Уреда сенатора Брајана Шатца.

Виллиамс је започео поступак говорећи о начину на који се пристрасност може сагледати из више различитих углова. Објаснила је да је за њу лично другачије видела пристрасност у зависности од тога да ли се понашала као мајка према своје троје деце, идентификујући се као црнка или гледајући кроз сочиво свог адвокатског посла.

Ово је кључна ствар коју треба приметити и један је од разлога зашто препознавање пристрасности може бити пола битке. Панел је брзо нагласио да, за разлику од осталих делова технолошке индустрије, пристрасност у АИ не потиче од лоших актера, већ због лоших информација.

Лоши подаци, нису лоши глумци

Ниједан од панела није сугерисао да је пристрасност последица злонамерног инжењеринга, већ је комбинација многих фактора који се односе и на улаз и на излаз. Савезна трговинска комисија објавила је 2016. извештај о великим подацима који пита да ли је он инклузиван или ексклузиван.

Извештај је завршен позивањем корисника великих података да размисле да ли је њихов скуп података који се користи за креирање алгоритама репрезентативан или представља само одређени сегмент.

Друго, провоцира креаторе АИ технологије да питају шта алгоритам ради, како то издваја? Да ли заснива своју одлуку на факторима повезаним са њеним намерним подацима или другим обрасцима које би могао идентификовати и који нехотице стварају пристрасност?

Што се тиче прописа, панел се сложио да влада може учинити више, али да је поседовање стручног знања из индустрије у процесу доношења одлука кључно за напредак.

Још једна тачка коју је панел покренуо и о којој је расправљало била је потреба за разноврсним тимовима у техници уопште. Што су разноврснији инжењерски и програмски тимови већа је вероватноћа да ће пристрасност бити уочена и решена раније, уместо да се задржава и развија током времена.

Различити тимови значе да је вероватније да ће пристрасност бити схваћена озбиљно.

Кључ различитости у решавању пристрасности

Решење за повећану разноликост речено је у претходном панелу, а изазови повећања броја жена и људи у боји у технологији и даље тињају на ЦЕС-у.

Још једна фасцинантна поента коју је панел покренуо била је идеја да АИ заиста може помоћи у откривању и превазилажењу пристрасности. Технички не би требало да постоји боља машина за тражење пристрасности од интелигентне интелигенције.

У закључку, Хаиес је честитао панелу на присуству и обраћању тешким идејама везаним за пристрасност у АИ. Даље је рекао да је први корак у превазилажењу пристрасности препознавање тога што је данас учињено на панелу.


Погледајте видео: AI and CRM - The Next Business Revolution (Јун 2021).