આદિત્ય સિંહા. દરેક પસાર થતા દિવસ સાથે, આપણામાંથી વધુને વધુ લોકો આપણી વિચારસરણી પ્રક્રિયાઓને કૃત્રિમ બુદ્ધિમત્તા (AI)ને સોંપી રહ્યા છે. આપણી પાસે તે ઇમેઇલ્સ ડ્રાફ્ટ કરે છે, બીમારીના લક્ષણોનું વિશ્લેષણ કરે છે અને દસ્તાવેજનો સાર કાઢે છે. આ સાધનો આંખના પલકારામાં કામ કરે છે અને ઘણીવાર અત્યંત અસરકારક સાબિત થાય છે. એક સ્વાભાવિક પ્રશ્ન ઊભો થાય છે: શું આપણે તેમના પર આંધળો વિશ્વાસ કરી શકીએ? પ્રામાણિક જવાબ ઘણા પરિબળો પર આધાર રાખે છે અને સૌથી વધુ, આપણા પર. વિશ્વાસનો પ્રશ્ન મશીન કેટલું કાર્યક્ષમ છે તેના દ્વારા નક્કી થતો નથી, પરંતુ શું આપણે તેના કાર્ય પર કોઈ શંકા વિના વિશ્વાસ કરી શકીએ છીએ અને જ્યાં વાસ્તવિક ચકાસણીની જરૂર હોય, તેની પ્રામાણિકતા ચકાસી શકીએ છીએ.
કોઈપણ ચેટબોટ સંયમ અને આત્મવિશ્વાસ સાથે જવાબ આપી શકે છે, પરંતુ આત્મવિશ્વાસ ચોકસાઈને સમાન ગણી શકાય નહીં. આ સિસ્ટમો ખોટા તથ્યોને સાચા તથ્યો જેટલી સરળતાથી રજૂ કરી શકે છે. તેઓ તેમના તાલીમ ડેટામાંથી મેળવેલા સ્ત્રોતો બનાવી શકે છે અથવા પૂર્વગ્રહોનું પુનરાવર્તન કરી શકે છે. તેઓ માનવ લેખનમાંથી શીખે છે અને માનવ લેખન સ્વાભાવિક રીતે પક્ષપાતી છે. પ્રશ્ન એ પણ ઊભો થાય છે: તમે દાખલ કરો છો તે ડેટા ખરેખર કોણ જોઈ રહ્યું છે? સરેરાશ ગ્રાહક માટે પાઠ સરળ છે: મશીન ફક્ત એટલા માટે વિશ્વાસ ન કરો કારણ કે તે વિશ્વસનીય લાગે છે. તેના સ્ત્રોતો માટે પૂછો. હકીકતોની ફરીથી પુષ્ટિ કરો. તેને ઝડપી બુદ્ધિશાળી સહાયક તરીકે માનો, અંતિમ, નિર્ણાયક સત્તા તરીકે નહીં.
જ્યારે AI સલાહ આપવાથી આગળ વધે છે અને લોકો વિશે નિર્ણય લેવાનું શરૂ કરે છે ત્યારે જોખમ વધે છે. ઉદાહરણ તરીકે, બેંકો હવે એવા મોડેલોનું પરીક્ષણ કરી રહી છે જે કોને લોન આપવી તે નક્કી કરવા માટે સેંકડો પરિમાણોનું વિશ્લેષણ કરે છે. હોસ્પિટલો દર્દીઓને પ્રાથમિકતા આપવા માટે સોફ્ટવેરનો ઉપયોગ કરી રહી છે. અદાલતો એવા સાધનોનો ઉપયોગ કરી રહી છે જે કોઈ વ્યક્તિ ફરીથી ગુનો કરે તેવી શક્યતાની આગાહી કરે છે. જો યોગ્ય રીતે અમલમાં મૂકવામાં આવે તો, આ પાસાઓ માનવ મગજના નિર્ણયો કરતાં ઘણા વધુ ન્યાયી સાબિત થઈ શકે છે. વધુ સુસંસ્કૃત મોડેલ લોકોના વિવિધ જૂથોને વધુ સમાન રીતે પણ સારવાર આપી શકે છે. જો કે, એક સમસ્યા એ છે કે આમાંની ઘણી સિસ્ટમો એવી છે જેને એન્જિનિયરો "બ્લેક બોક્સ" કહે છે. જ્યારે તમે ઇનપુટ અને આઉટપુટ જોઈ શકો છો, ત્યારે વચ્ચેની પ્રક્રિયા સમજવી અત્યંત મુશ્કેલ છે, વિકાસકર્તાઓ માટે પણ.
જો કોઈ બેંક તમારી અરજી કેમ નકારી કાઢી તે સમજાવી શકતી નથી, તો તે સંભવતઃ નિયમોનું ઉલ્લંઘન કરી રહી છે. જો તે કારણ આપવા તૈયાર ન હોય તો તમે નિર્ણયને કેવી રીતે પડકારી શકો છો? જ્યારે પણ કોઈ નિર્ણય વ્યક્તિના જીવન પર સીધી અસર કરે છે, ત્યારે તે નક્કી કરવું જોઈએ કે સિસ્ટમ કયા પરિબળોનું મૂલ્યાંકન કરે છે અને તેનો આધાર શું હતો.
પરિસ્થિતિ ઝડપથી બદલાઈ રહી છે. તાજેતરમાં સુધી, મોટાભાગની AI ફક્ત શબ્દોનો ઉપયોગ કરતી હતી, પરંતુ નવી સિસ્ટમો સીધી કાર્યવાહી કરે છે. આને "એજન્ટ" કહેવામાં આવે છે અને ચેટબોટની જેમ તમારા પ્રશ્નની રાહ જોવાને બદલે, તેઓ એક નિશ્ચિત ધ્યેયને અનુસરે છે અને ટિકિટ બુક કરવા, સંદેશ મોકલવા અથવા સેટિંગ બદલવા જેવા વાસ્તવિક કાર્યો કરે છે. જૂની ચિંતા એ હતી કે સિસ્ટમ ખોટી વાત કહી શકે છે, પરંતુ હવે નવી ચિંતા એ છે કે સિસ્ટમ ખોટી કાર્યવાહી કરી શકે છે - કંઈક અણધાર્યું કરીને. દેખરેખ અને નિયંત્રણ પગલાં ટેકનોલોજીની ગતિથી ઘણા પાછળ છે, અને ખોટા હકારાત્મક અને સાયબર હુમલાઓ ચિંતાઓની યાદીમાં ટોચ પર રહે છે.
એક અગ્રણી પ્રયોગશાળાના વડાએ તાજેતરમાં દલીલ કરી હતી કે ઉદ્યોગે આ મોડેલોને વધુ શક્તિશાળી બનાવવા માટે પોતાની ઉતાવળ ધીમી કરવી જોઈએ, જેથી સુરક્ષા ધોરણો તેમની સાથે તાલમેલ બેસાડી શકે. તેમણે એક ઘટનાનો ઉલ્લેખ કર્યો જેમાં એજન્ટોના એક જૂથે એવા લક્ષ્યો પર હુમલો કર્યો જેને સ્પર્શ કરવાની સૂચના આપવામાં આવી ન હતી અને તેમનું મૂલ્યાંકન કરતી સિસ્ટમને હેક કરવાનો પણ પ્રયાસ કર્યો. તેમણે એ ગંભીર ભય તરફ પણ ધ્યાન દોર્યું કે AI પોતે હવે તેની આગામી પેઢી બનાવવામાં મદદ કરી રહ્યું છે, જે તેની પ્રગતિને આપણી સમજણ અને દેખરેખથી ઘણી આગળ વધારી શકે છે. તે પણ ચિંતાજનક છે કે આ સિસ્ટમોના નિર્માતાઓ પણ તેમની અંદર થતી પ્રક્રિયાઓના ખૂબ જ નાના ભાગને સમજાવી શક્યા છે. જો કે, દરેક જણ આ ભયાનક ભય સાથે સહમત નથી.
કેટલાક નિષ્ણાતો માને છે કે મશીનો સમગ્ર ઇન્ટરનેટ પર કબજો જમાવી રહ્યા છે તેવા દાવાઓ અતિશયોક્તિપૂર્ણ છે. તેમના મતે, શાણપણ ન તો આંધળી દોડમાં કે ન તો ગેરવાજબી ભયમાં રહેલું છે, પરંતુ એક વ્યવહારિક મધ્યમ માર્ગમાં રહેલું છે જે આકર્ષક ન હોવા છતાં, ટકાઉ હોય છે. પ્રશ્ન આખરે એ છે કે શું AI પર વિશ્વાસ કરી શકાય છે. એક વધુ તાર્કિક પ્રશ્ન એ છે કે વિશ્વાસનો પાયો કેવી રીતે બનાવવો. ન તો આંધળો વિશ્વાસ કે ન તો સંપૂર્ણ શંકા એ યોગ્ય અભિગમ છે. વાસ્તવમાં, આપણને એક સંતુલિત અભિગમની જરૂર છે, જ્યાં આપણે સમજીએ કે સિસ્ટમ શું સક્ષમ છે. જેમ જેમ AI વધુને વધુ શક્તિશાળી બનતું જાય છે, તેમ આપણે ખાતરી કરવી જોઈએ કે આપણે તેનું પરીક્ષણ કરવા માટે સમાન રીતે સક્ષમ છીએ. જે મશીન પર આપણે પ્રશ્ન કરી શકતા નથી તેના સૂચનોનો અનાદર કરવામાં કોઈ નુકસાન નથી.
(લેખક જાહેર નીતિ વિશ્લેષક છે)