Документти түзөтүүдөн көркөм өндүрүшкө чейин, жасалма интеллект (ЖИ) тиркемелери азыр санариптик доордун ажырагыс элементтери болуп саналат. ChatGPT 2024-жылдын мартында эң көп жүктөлүп алынган колдонмо болгон, бирок көп өтпөй Google Play дүкөнүндө Grok менен алмаштырылган.
Генеративдик ЖИнин өсүшү баш айлантты, бирок аны менен бирге, айрыкча ал алып жүргөн жана бекемдеген бир жактуулугуна карата текшерүү жана суроо да көбөйдү.
Өндүрүштүү куралдар барган сайын бардык жерде колдонулуп жаткандыктан, расанын, жынысынын жана этникалык таандуулугунун өкүлдөрү барган сайын тыкыр текшерилет.
Ghibli тенденциясы ушунчалык кеңири жайылган жана бул колдонмолорго болгон көз карандылык күчөгөн сайын, колдонуучулар жана адистер ЖИ ар кандай тектеги адамдарды кандайча чагылдырары жөнүндө коңгуроо кагып башташкан. Жакшылап изилдеп көргөнүбүздө, биз бир топ көйгөйлүү стереотиптерге туш болдук; Анын үстүнө алардын көбү системалуу болгон.
Кеффиех жана карикатуралар
Көзгө урунган мисал катары Илон Масктын ЖИ Grok флагманы көрүнүп турат. Биз тиркемеге «террористтик» образды түзүүнү буйруганбыз.
Натыйжа ошол замат чыкты: экранда кеффиех кийген эки киши пайда болду. Сэм Алтмандын OpenAI компаниясы тарабынан иштелип чыккан ChatGPT да ушундай эле сүрөттү чыгарган. Кеффийе, адатта, Жакынкы Чыгышта жана Түндүк Африкада кийилген салттуу плаид жоолук, визуалдык көрүнүштөрдүн жалпы темасы болгон.
«Бул сүрөттөлүштүн исламдык, арабесктик же Жакынкы Чыгыш эстетикасы бар экендиги таң калыштуу эмес»,- дейт доктор Шоаиб Ахмед Малик.
Малик TRT World каналына: «ЖИ системалары медиа, коопсуздук боюнча дискурстар жана саясий баяндоолорго үстөмдүк кылган визуалдык жана концептуалдык ассоциацияларды коддогон маалыматтар менен машыктырылган», — деп түшүндүрдү.
+972ге ылайык, жасалма интеллектте колдонулган маалыматтарды индекстөө процесстери бейтарап эмес; тескерисинче, ал үстөмдүк кылуунун учурдагы экономикалык жана саясий структураларын чагылдырат. Программалоо баскычында машина үйрөнүү моделдерине гендердик, этникалык жана расага байланыштуу кемсинткен терминдерди камтыган 100 миллиондон ашык сөздүк маалымат топтому берилет.
Бул социалдык медиа дискурстары дискриминациялоочу алгоритмдердин бир бөлүгү болуп калат, ал ЖИ системалары стереотиптерди кантип жаратып, санариптик четке кагууну күчөтөрүн түшүндүрөт.
ЖИ тарабынан түзүлгөн сүрөттөрдү изилдеген, доктор Малик мындай деди: «Сиз бөлүшкөн сүрөттөр мунун айкын мисалы: Алар коомдон мураска алыган божомолдорго критикалык баа берилбесе, ЖИ тарабынан түзүлгөн мазмунга кантип коддолорун жана көйгөйлүү стереотиптерди бекемдей аларын көрсөтөт».
Индиянын алдыңкы мусулман саясатчыларынын бири жана Бүткүл Индия Мусулман лигасынын (AIMM) лидери Асадуддин Овайси кийимге көңүл буруп, бул сүрөттөлүштү сындап, муну өтө жөнөкөйлөтүлгөн деп билдирди. «Эмне үчүн муну көрсөтүшүң керек? Бул абдан чоң жалпылоо»,-дейт ал.
Овайси TRT World телеканалына берген маегинде террорчулар бир эле образга туура келбей турганын, тескерисинче «ар түрдүү стилдерди, кийимдерди жана каармандарды» кабыл алышканын белгиледи.
Биз андан ары кадам шилтеп, «кедей адамды» сүрөттөп берүүсүн сурандык. Колдонмо эки адамды көрсөттү, биринчиси азиялык эркек, экинчиси араб, борбор же түштүк азиялык; бирок кайдан келип чыкканы так көрсөтүлгөн эмес.
Биз андан ары кадам шилтеп, «кедей адамды» сүрөттөп берүүсүн сурандык. Колдонмо эки адамды көрсөттү, биринчиси азиялык эркек, экинчиси араб, борбор же түштүк азиялык; бирок кайдан келип чыкканы так көрсөтүлгөн эмес.
Бирок биз буйрукту «бай адам» деп өзгөрткөндө, ЖИ эч ойлонбостон ак эркектин сүрөтүн тартуулады. Ушундай эле жагдай «математик», «башкы директор» жана ушул сыяктуу кесиптерде дагы кайталанган. Алгоритмдин көз алдында ийгилик ак жана эркек болгон.
Алгоритмдик терс пикирлердин анатомиясы
ЖИдеги бир тараптуулук кыйыр жана ачык болушу мүмкүн. Моделдер колдонуучунун жүрүм-турумунан, тарыхый жана кайталануучу маалыматтардан үйрөнгөндө, кыйыр түрдө пайда болот, деп түшүндүрөт ЖИ жана маалымат илими боюнча эксперт Хан.
Издөө элементтери колдонуучулар тарабынан терс мазмунду белгилебестен бир нече жолу кабыл алынганда, алар моделдин тактыгын түшүнүүгө үйрөтүшөт. Жарым-жартылай репрезентативдик маалымат топтомдорунун мындай шексиз кабыл алынышы кыйыр түрдө бир жактуулукту жаратат.
Издөө шарттары, эгер талашсыз калтырылса, системанын кабыл алынган «чындыгынын» бир бөлүгү болуп калат. «Террорист» деп белгиленген кеффийех кийимчен кишилердин же коркутуулар катары сүрөттөлгөн мусулмандардын сүрөттөрү ушундай күчөтүүнүн жыйындысы болуп саналат.
Ачык-айрым, тескерисинче, иштеп чыгуучулар белгилүү бир сүрөттөрдү же божомолдорду коддогондо, моделди долбоорлоодо жасалган тандоолордон келип чыгат. «Кыз» түштүк азиялык аялга барабар болгондо же «CEO» ак эркекке барабар болсо, система жөн гана колдонуучунун жүрүм-турумун чагылдырбастан, стереотипти бекемдейт.
Академиялык изилдөөлөр бул байкоолорду колдойт. Аскердик чечимдерди колдоо системаларындагы алгоритмдик тенденция боюнча изилдөө иштеп чыгуунун мөөнөттөрү да, долбоорлоо чечимдери да калыптанып калган калпыстыкты кантип өрчүтүп, тереңдете аларын көрсөттү.
Бристол университетинин профессору, доктор Чжэн Лю TRT World телеканалына: «Бул маселенин түпкү себебин, биздин медиадагы бир тараптуулукту жана башка коомдук дискурстарды чечпестен, аны (ЖИ бетме-бет келүүсү) кантип натыйжалуу чечсе болору кыйын», — дейт.
Коом менен технологиялык инновациянын кесилишинде иштеп, ал ЖИнин «техникалык» жагын эмес, «маданий» аспектисин түшүнүүнү талап кылат.
Жалпысынан коммерциялаштырылган дүйнөдө илимий предмет катары каралса, ЖИ өзгөчө социалдык-маданий инновация катары мааниси азыраак айтылган. ЖИ, деп баса белгилейт ал, «аны үйрөнүү калыптанган кеңири саясий, социалдык жана экономикалык чөйрөдө реалдуу убакыт режиминде өз ара аракеттенүүсү бар социалдык-маданий көрүнүш».
Сокур ишенимдин баасы
«Окуу, өзгөчө ЖИ аркылуу — ар дайым этияттык менен мамиле кылуу керек»,-деп кошумчалайт доктор Малик.
«ЖИ, акыры, адамдын аракети жана аны иштеп чыгуучулардын конструктивдүү жана кыйратуучу ниеттеринин аралашмасы болушу мүмкүн». Алынган маалыматка критикалык баа берүү өтө маанилүү, анткени «жаман актерлор жана алардын күн тартиби дайыма болот» дейт ал.
Доктор Лю чоңдор тарабынан балдардын ЖИ колдонуусун көзөмөлдөө жана медиа сабаттуулугу сыяктуу эле чоңдор арасында ЖИ сабаттуулугун жайылтуу маанилүү экенин баса белгиледи.
«ЖИ куралдары аларга берилген маалыматтардан үйрөнүшөт, ошондуктан алар бир жактуулукту жаратпайт. Алар аны кайталашат».
Алгоритмдик терс пикирдин кесепеттери абстрактуу эмес. Индиялык саясатчы Сайра Шах Халим: «Полициядагы, көзөмөлдөгү же социалдык медианы модерациялоодогу ЖИ-баалуу алгоритмдер кыйратуучу кесепеттерге алып келиши мүмкүн»,-деп эскертет.
Индиянын Коммунисттик партиясынан 2024-жылы Лок Сабхага талапкер (марксист), Халим ЖИ технологияларын кеңири саясий контекстте жайылтуу тууралуу тынчсыздануусун билдирди.
Дели полициясы мусулмандарды пропорционалдуу эмес бутага алуу үчүн колдонгон жүздү таануу технологиясын (FRT) колдонуу машиналардын «нейтралдуу» көрүнгөн жагына шек туудурат, деп кошумчалайт ал.
2024-жылдагы Индиянын жалпы шайлоосунда ал санариптик жарнак жана ЖИ жетектеген өнөктүк коркууга негизделген бөлүүчү баяндарды кантип өрчүткөнүн, ошону менен маргиналдашкан жамааттарга көңүл бурбай, көпчүлүктүн көз карашын күчөткөнүн түшүндүрөт.
Инклюзивдик коомго үмүт артып, ал «конституциялык адилеттүүлүк менен бирге алгоритмдик жоопкерчиликти талап кылууга» чакырат.
Доктор Маликтин айтымында, иштеп чыгуучулар ачык-айкындуулукту жана ар түрдүүлүктү окутуунун маалымат топтомуна башынан эле киргизүүсү керек. Колдонуучулар ЖИ чектөөлөрү жөнүндө критикалык аң-сезимди өрчүтүшү керек.
«Биздин максатыбыз ЖИ системаларын мүмкүн болушунча объективдүү жана адилеттүү кылуу, ошол эле учурда өзүбүздө жана коомдордо ошол эле ой жүгүртүү жана жоопкерчилик рухун өркүндөтүү болушу керек».