AIге кантип кылдат мамиле жасоо маалыматтардын топтомун кыскартат

Бир тараптуу берилиштер топтому жана этикалык AI

AI менен иштеген чечимдер натыйжалуу болушу үчүн маалымат топтомуна муктаж. Жана бул маалымат топтомдорун түзүү системалуу деңгээлде ачыктан -ачык бир жактуу көйгөй менен коштолот. Бардык адамдар бир жактуулуктан жапа чегишет (аң-сезимдүү да, аң-сезимсиз да). Бир жактуу көз караштар ар кандай формада болушу мүмкүн: географиялык, лингвистикалык, социалдык-экономикалык, сексисттик жана расисттик. Жана бул системалуу калпыстыктар маалыматтарга бышырылган, натыйжада AI өнүмдөрү калыстыкты сактап, чоңойтушу мүмкүн. Уюмдар маалымат топтомуна кирип кетүүнүн алдын алуу үчүн акылдуу мамилеге муктаж.

Жактуулук көйгөйүн көрсөтүүчү мисалдар

Ошол убакта көптөгөн терс басма сөздү жараткан бул маалыматтар топтомунун бир көрүнүктүү мисалы, аялдарга караганда эркек талапкерлерге артыкчылык берген резюме окуу чечими болгон. Себеби, жумушка алуу инструментинин маалымат топтому акыркы он жылдагы резюмелерди колдонуу менен иштелип чыккан, анда талапкерлердин көбү эркектер болгон. Маалыматтар бир жактуу болуп чыкты жана натыйжалар ошол жактуулукту чагылдырды. 

Дагы бир кеңири таралган мисал: Жыл сайын өткөрүлүүчү Google I/O конференциясында, Google адамдарга териси, чачы жана тырмактары менен байланышкан көйгөйлөрдү түшүнүүгө жардам берген AI менен иштөөчү дерматологияга жардам берүүчү куралдын алдын ала көрүнүшү менен бөлүштү. Дерматология боюнча жардамчы AI ден соолукту чыңдоо үчүн кандайча өнүгүп жатканын баса белгилейт - бирок бул курал түстүү адамдарга ылайыктуу эмес деген сын -пикирлерден кийин АИге кирип кетүү мүмкүнчүлүгүн баса белгиледи.

Google куралды жарыялаганда, компания төмөнкүлөрдү белгиледи:

Ар бир адам үчүн куруп жатканыбызга ынануу үчүн, биздин моделибиз курак, жыныс, расса жана теринин түрлөрү сыяктуу факторлорду эсепке алат — кубарып, күйбөгөн териден сейрек күйгөн күрөң териге чейин.

Google, жалпы тери ооруларына жооп табууга жардам берүү үчүн AI колдонуу

Бирок Вицедеги макалада Google инклюзивдик маалымат топтомун колдоно албады деп айтылат:

Тапшырманы аткаруу үчүн изилдөөчүлөр эки штатта жайгашкан 64,837 12,399 бейтаптын 3.5 90 сүрөтүнүн окуу маалымат топтомун колдонушкан. Бирок сүрөттөлгөн миңдеген тери ооруларынын XNUMX пайызы гана Fitzpatrick тери V жана VI менен ооруган бейтаптардан келип чыккан - алар күрөң терини жана кара күрөң же кара терини билдирет. Изилдөөлөргө ылайык, маалымат базасынын XNUMX пайызы ак тери, кара ак тери же ачык күрөң терилүү адамдардан турган. Бир жактуу тандоонун натыйжасында, дерматологдор бул колдонмо ак эмес адамдарга ашыкча же жетишсиз диагноз коюшу мүмкүн дешет.

Вице, Google'дун Жаңы Дерматология Колдонмосу териси кара адамдар үчүн иштелип чыккан эмес

Google бул куралды расмий түрдө чыгаруудан мурун тактоо менен жооп берди:

Биздин AI менен иштеген дерматологияга жардам берүүчү куралыбыз үч жылдан ашык изилдөөнүн жыйынтыгы болуп саналат. Биздин иш Nature Medicine программасында чагылдырылгандыктан, биз миңдеген адамдар тарабынан берилген маалыматтарды жана миллиондогон териге тиешелүү сүрөттөрдү камтыган кошумча маалымат топтомдорун киргизүү менен технологиябызды иштеп чыгууну жана өркүндөтүүнү улантып жатабыз.

Google, жалпы тери ооруларына жооп табууга жардам берүү үчүн AI колдонуу

Биз AI жана машина үйрөнүү программалары бул калпыстыктарды оңдой алат деп үмүттөнсөк да, чындык сакталып турат: алар акылдуу алардын маалымат топтому таза болгондуктан. Эски программалоо макалына жаңыртуу таштанды / таштанды, AI чечимдери алардын маалымат топтомдорунун сапаты сыяктуу эле күчтүү. Программисттердин оңдоосу жок, бул маалымат топтомдору өздөрүн оңдоо үчүн тажрыйбага ээ эмес, анткени аларда башка таяныч алкагы жок.

Берилиштер топтомун жоопкерчилик менен куруу бардыгынын өзөгүн түзөт этикалык жасалма интеллект. Ал эми чечимдин өзөгүн адамдар түзөт. 

Эстүү AI – бул этикалык AI

Жалкоолук вакуумда болбойт. Этикага туура келбеген же бир жактуу маалымат топтому иштеп чыгуу стадиясында туура эмес мамиле кылуудан келип чыгат. Бир тараптуу каталар менен күрөшүүнүн жолу - бул тармактагы көптөгөн адамдар Mindful AI деп атаган жоопкерчиликтүү, адамга багытталган мамилени кабыл алуу. Mindful AI үч маанилүү компоненттен турат:

1. Акылдуу AI адамга багытталган

AI долбоору жаралгандан баштап, пландаштыруу этаптарында адамдардын муктаждыктары ар бир чечимдин борборунда болушу керек. Жана бул бардык адамдарды билдирет - жөн гана бир топ эмес. Мына ошондуктан, иштеп чыгуучулар интеллектуалдык тиркемелерди инклюзивдүү жана бир жактуу болбоого үйрөтүү үчүн глобалдык негизделген адамдардын ар кандай тобуна таянышы керек.

Глобалдык, ар түрдүү команданын маалымат топтомдорун краудсорсинг, бир тараптуулуктарды эрте аныктоону жана чыпкалоону камсыздайт. Ар кандай этникалык, курактык топтор, гендер, билим деңгээли, социалдык-экономикалык тек-жайы жана жайгашкан жери бир баалуулуктардын топтомун экинчисинен артык көргөн маалымат топтомун оңой эле байкап, күтүлбөгөн бир жактуулукту жок кыла алат.

Үн колдонмолорун карап көрүңүз. Жасалма AI ыкмасын колдонууда жана дүйнөлүк таланттар пулунун күчүн колдонууда, иштеп чыгуучулар маалымат топтомундагы ар кандай диалектилер жана акцент сыяктуу лингвистикалык элементтерди эсепке алышат.

Башынан эле адамга багытталган дизайн негизин түзүү абдан маанилүү. Бул өндүрүлгөн, тандалып алынган жана энбелгиленген маалыматтар акыркы колдонуучулардын күтүүсүнө жооп берерин камсыз кылуу үчүн узак жолду басып өтөт. Бирок өнүмдү иштеп чыгуунун бүткүл өмүр циклинде адамдарды укурукта кармоо да маанилүү. 

Укуктагы адамдар ошондой эле машиналарга ар бир конкреттүү аудитория үчүн жакшыраак AI тажрыйбасын түзүүгө жардам бере алышат. Pactera EDGEде, глобалдык деңгээлде жайгашкан биздин AI маалыматтары долбоорунун топтору ар кандай маданияттар жана контексттер AI окутуунун ишенимдүү маалыматтарын чогултууга жана курациялоого кандайча таасир эте аларын түшүнүшөт. Аларда көйгөйлөрдү белгилөө, аларды көзөмөлдөө жана AI негизиндеги чечим ишке киргиче аларды оңдоо үчүн керектүү куралдар бар.

Адамдардын интеллектуалдык интеллектуалдык интеллекти - бул адамдардын күчтүү жактарын жана алардын ар түрдүү тек-жайын машиналардын ылдам эсептөө күчү менен айкалыштырган "коопсуздук түйүнү" долбоору. Бул адамдык жана интеллектуалдык кызматташтык программалардын башынан бери түзүлүшү керек, андыктан бир жактуу маалыматтар долбоордо пайдубал түзбөйт. 

2. Акылдуу AI жоопкерчиликтүү

Жоопкерчилик - бул AI тутумдарынын бир жактуулугун жана этикага негизделгенин камсыз кылуу. Бул маалыматтар кантип, эмне үчүн жана кайда түзүлгөнүн, ал AI системалары тарабынан кантип синтезделерин жана чечимди кабыл алууда, этикалык кесепеттерге алып келиши мүмкүн болгон чечимдерди кантип колдонорун эске алуу жөнүндө. Бизнестин муну жасоонун бир жолу, азыраак өкүлчүлүктүү жамааттар менен көбүрөөк инклюзивдүү жана азыраак объективдүү болуу. Маалыматтардын аннотациялары жаатында жаңы изилдөөлөр ар бир аннотатордун энбелгилерин өзүнчө кошумча тапшырма катары караган көп аннотатордун көп тапшырмалуу модели кантип аннотатордун пикир келишпестиктери жетишсиз өкүлчүлүктөрдөн жана аннотатордун пикир келишпестиктеринен келип чыгышы мүмкүн болгон типтүү негиздүү чындык методдоруна мүнөздүү болгон потенциалдуу маселелерди жумшартууга жардам бере аларын баса белгилейт. бир негиздүү чындыкка аннотацияларды топтоодо этибарга алынбай калышы мүмкүн. 

3. Ишенимдүү

Ишенимдүүлүк бизнестин AI модели кантип үйрөтүлгөнү, анын кантип иштегени жана эмне үчүн натыйжаларды сунуштаары боюнча ачык-айкын жана түшүнүктүү болушунан келип чыгат. Бизнеске AI локализациясы боюнча тажрыйба керек болуп, анын кардарлары жергиликтүү тилдеги критикалык нюанстарды жана бир өлкөдөн экинчи өлкөгө AI чечиминин ишенимдүүлүгүн арттыра турган же сындыра турган колдонуучунун тажрыйбасын сыйлап, AI колдонмолорун көбүрөөк инклюзивдүү жана жекелештирүү мүмкүнчүлүгүн бериши керек. . Мисалы, бизнес өз колдонмолорун жекече жана локалдаштырылган контексттер үчүн, анын ичинде тилдерге, диалектилерге жана үнгө негизделген тиркемелердеги акценттерди иштеп чыгышы керек. Ошентип, колдонмо англис тилинен тартып, аз көрсөтүлгөн тилдерге чейин, ар бир тилге үн тажрыйбасынын татаалдыгын бирдей деңгээлде алып келет.

Калыстык жана көп түрдүүлүк

Акыр -аягы, акылга сыярлык AI чечимдер рынокко чыга электе, белгилүү бир жыйынтыктардын кесепеттери жана таасири көзөмөлдөнүп, бааланган адилеттүү жана ар түрдүү маалымат топтомдоруна негизделгенин камсыз кылат. Эстүү болуу жана чечимди иштеп чыгуунун ар бир бөлүгүнө адамдарды кошуу менен, биз AI моделдеринин таза, минималдуу объективдүү жана мүмкүн болушунча этикалык болушун камсыздоого жардам беребиз.

Эмне деп ойлойсуң?

Бул сайт спам азайтуу Akismet колдонот. Сиздин комментарий маалымат кандайча иштелишин Үйрөнүү.