Ki jan yo pran yon apwòch konsyan nan AI diminye sou seri done patipri

Ansanm done patipri ak AI etik

Solisyon ki mache ak AI bezwen seri done pou yo efikas. Ak kreyasyon an ansanm done sa yo plen ak yon pwoblèm patipri implicite nan yon nivo sistematik. Tout moun soufri de patipri (tou de konsyan ak san konesans). Patipri yo ka pran nenpòt ki fòm: jeyografik, lengwistik, sosyo-ekonomik, sèksis, ak rasis. Ak sa yo prejije sistematik yo kwit nan done, ki ka lakòz pwodwi AI ki perpétuer ak agrandi patipri. Òganizasyon yo bezwen yon apwòch konsyan pou bese kont patipri ki trennen sou seri done yo.

Egzanp ki montre pwoblèm patipri a

Yon egzanp remakab nan patipri seri done sa a ki ranpòte anpil laprès negatif nan moman an se te yon solisyon lekti rezime ki te favorize kandida gason sou fi. Sa a se paske seri done zouti rekritman an te devlope lè l sèvi avèk rezime ki soti nan plis pase dis dènye dekad la lè yon majorite aplikan yo te gason. Done yo te patipri ak rezilta yo te reflete patipri sa a. 

Yon lòt egzanp anpil rapòte: Nan konferans pwomotè Google I/O anyèl la, Google te pataje yon aperçu de yon zouti pou ede dèrmatoloji AI ki mache ak ede moun konprann sa k ap pase ak pwoblèm ki gen rapò ak po yo, cheve yo ak zong yo. Asistan dèrmatoloji a souliye kijan AI ap evolye pou ede ak swen sante - men li te tou mete aksan sou potansyèl pou patipri antre nan AI apre kritik ke zouti a pa bon pou moun ki gen koulè.

Lè Google te anonse zouti a, konpayi an te note:

Pou asire w ke nou ap bati pou tout moun, modèl nou an konte pou faktè tankou laj, sèks, ras, ak kalite po - soti nan po pal ki pa tan nan po mawon ki raman boule.

Google, Sèvi ak AI pou ede jwenn repons pou kondisyon po komen yo

Men, yon atik nan Vice te di Google echwe pou pou sèvi ak yon seri done enklizif:

Pou akonpli travay la, chèchè yo te itilize yon seri done fòmasyon 64,837 imaj 12,399 pasyan ki sitiye nan de eta. Men, nan dè milye de kondisyon po yo foto, sèlman 3.5 pousan te soti nan pasyan ki gen Fitzpatrick kalite po V ak VI-sa yo ki reprezante po mawon ak po nwa mawon oswa nwa, respektivman. 90 pousan nan baz done a te konpoze de moun ki gen po jis, pi fonse po blan, oswa po limyè mawon, dapre etid la. Kòm yon rezilta nan echantiyon an patipri, dèrmatolog di app a ka fini sou-oswa anba-dyagnostike moun ki pa blan.

Vice, Nouvo App dèrmatoloji Google la pa te fèt pou moun ki gen po pi fonse

Google reponn li di ke li ta rafine zouti a anvan li lage li fòmèlman:

Zouti asistans dèrmatoloji ki mache ak AI nou an se akimilasyon plis pase twa ane rechèch. Depi ke travay nou an te prezante nan Nature Medicine, nou te kontinye devlope ak rafine teknoloji nou an ak enkòporasyon an nan seri done adisyonèl ki gen ladan done bay dè milye de moun, ak dè milyon de lòt imaj ki konsène po.

Google, Sèvi ak AI pou ede jwenn repons pou kondisyon po komen yo

Otan ke nou ta ka espere AI ak pwogram aprantisaj machin yo ka korije prejije sa yo, reyalite a rete: yo se sèlman kòm entelijan kòm seri done yo pwòp. Nan yon aktyalizasyon ansyen pwovèb pwogramasyon an fatra nan/fatra deyò, AI solisyon yo se sèlman osi fò ke bon jan kalite a nan seri done yo soti nan jwenn-ale a. San yo pa yon koreksyon nan men pwogramè yo, ansanm done sa yo pa gen eksperyans nan background yo ranje tèt yo - kòm yo tou senpleman pa gen okenn lòt ankadreman referans.

Bati seri done yon fason responsab se nan nwayo a nan tout entèlijans atifisyèl etik. Ak moun yo nan nwayo a nan solisyon an. 

Mindful AI se AI etik

Patipri pa rive nan yon vakyòm. Ansanm done ki pa etik oswa patipri soti nan pran move apwòch pandan etap devlopman an. Fason pou konbat erè patipri se adopte yon apwòch responsab, ki santre sou moun, ke anpil moun nan endistri a ap rele Mindful AI. Mindful AI gen twa eleman enpòtan:

1. Mindful AI se moun ki santre

Depi nan kòmansman pwojè AI a, nan etap planifikasyon yo, bezwen moun yo dwe nan sant chak desizyon. Epi sa vle di tout moun - pa sèlman yon sous-ensemble. Se poutèt sa devlopè yo bezwen konte sou yon ekip divès moun ki baze sou mondyal pou fòme aplikasyon AI pou yo enklizif ak san patipri.

Crowdsourcing ansanm done yo nan yon ekip mondyal divès kalite asire prejije yo idantifye ak filtre byen bonè. Moun ki gen diferan etnisite, gwoup laj, sèks, nivo edikasyon, orijin sosyo-ekonomik, ak kote yo ka pi fasilman wè seri done ki favorize yon seri valè sou yon lòt, konsa elimine patipri envolontè.

Gade aplikasyon pou vwa. Lè y ap aplike yon apwòch AI ki gen atansyon, epi pwofite pouvwa yon pisin talan mondyal, devlopè yo ka konte pou eleman lengwistik tankou diferan dyalèk ak aksan nan seri done yo.

Etabli yon fondasyon konsepsyon moun ki santre depi nan konmansman an se kritik. Li ale yon fason lontan nan asire ke done yo pwodwi, òganize, ak make satisfè atant itilizatè yo fen yo. Men, li enpòtan tou pou kenbe moun nan bouk la pandan tout sik lavi devlopman pwodwi a. 

Moun nan bouk la kapab tou ede machin yo kreye yon pi bon eksperyans AI pou chak odyans espesifik. Nan Pactera EDGE, ekip pwojè done AI nou yo, ki sitiye globalman, konprann ki jan diferan kilti ak kontèks ka afekte koleksyon ak gerizon done fòmasyon AI serye. Yo gen zouti ki nesesè yo bezwen pou siveye pwoblèm yo, kontwole yo, epi ranje yo anvan yon solisyon ki baze sou AI ale viv.

Human-in-the-loop AI se yon pwojè "relè sekirite" ki konbine fòs moun yo - ak divès orijin yo ak pouvwa enfòmatik rapid nan machin yo. Kolaborasyon imen ak AI sa a bezwen etabli depi nan kòmansman pwogram yo pou done patipri pa fòme yon fondasyon nan pwojè a. 

2. Konsyan AI se Responsab

Lè ou responsab se asire ke sistèm AI yo gratis nan prejije ak ke yo chita sou etik. Li se sou yo dwe konnen ki jan, poukisa, ak ki kote done yo kreye, ki jan yo sentèz yo pa sistèm AI, ak ki jan yo itilize yo nan pran yon desizyon, desizyon ki ka gen enplikasyon etik. Youn nan fason pou yon biznis fè sa se travay ak kominote ki pa reprezante yo pou yo gen plis enklizif ak mwens patipri. Nan domèn annotasyon done yo, nouvo rechèch ap mete aksan sou fason yon modèl milti-travay milti-notatè ki trete etikèt chak annotatè kòm yon travay separe ka ede bese pwoblèm potansyèl ki nannan nan metòd tipik verite tè kote dezakò annotatè yo ka akòz reprezantasyon ensifizan ak ka jwenn inyore nan agrégation de annotations pou yon sèl verite tè. 

3. Fè konfyans

Konfians soti nan yon biznis ki transparan ak eksplike nan ki jan yo fòme modèl AI a, ki jan li fonksyone, ak poukisa yo rekòmande rezilta yo. Yon biznis bezwen ekspètiz ak lokalizasyon AI pou fè li posib pou kliyan li yo fè aplikasyon AI yo pi enklizif ak pèsonalize, respekte nuans kritik nan lang lokal ak eksperyans itilizatè ki ka fè oswa kraze kredibilite nan yon solisyon AI soti nan yon peyi nan pwochen an. . Pou egzanp, yon biznis ta dwe konsepsyon aplikasyon li yo pou kontèks pèsonalize ak lokalize, ki gen ladan lang, dyalèk, ak aksan nan aplikasyon ki baze sou vwa. Nan fason sa a, yon aplikasyon pote menm nivo eksperyans vwa konplike nan chak lang, soti nan angle nan lang ki pa reprezante.

Ekite ak divèsite

Finalman, AI konsyan asire solisyon yo bati sou seri done ki jis ak divès kote konsekans ak enpak rezilta patikilye yo kontwole ak evalye anvan solisyon an ale nan mache. Lè nou pran konsyan epi enkli moun nan chak pati nan devlopman solisyon an, nou ede asire modèl AI rete pwòp, minim patipri, epi osi etik posib.

Ki sa ou panse?

Sit sa a sèvi ak Akismet diminye Spam. Aprann kijan kòmantè ou a trete.