AI గురించి భయపడుతున్న పేటీఎం విజయ శంకర్

ఎందుకు ఆందోళన: ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ గురించి స్వయనా చాట్ జిపిటి సృష్టికర్త OpenAI పోస్ట్ చేసిన బ్లాగ్ గురించి పేటీఎం సీఈఓ గా ఉంటున్న విజయ్ శేఖర్ శర్మ తన మనసులో ఉన్న ఆందోళనని బయట పెట్టడం జరిగింది. నిజంగా ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ అనేది మానవులకి హానికరమని ఆయన ఖచ్చితంగా నమ్ముతున్నారు. అయితే ఇంతకుముందు OpenAI చేసిన పోస్ట్ చెప్పిన దాని ప్రకారం, సుమారు ఏడు సంవత్సరాల లో ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ అనేది మానవాళికి పెనుముప్పుగా మారుతుంది. […]

Last Updated : 10 July 2023, 02:09 PM IST

ఎందుకు ఆందోళన:

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ గురించి స్వయనా చాట్ జిపిటి సృష్టికర్త OpenAI పోస్ట్ చేసిన బ్లాగ్ గురించి పేటీఎం సీఈఓ గా ఉంటున్న విజయ్ శేఖర్ శర్మ తన మనసులో ఉన్న ఆందోళనని బయట పెట్టడం జరిగింది.

నిజంగా ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ అనేది మానవులకి హానికరమని ఆయన ఖచ్చితంగా నమ్ముతున్నారు. అయితే ఇంతకుముందు OpenAI చేసిన పోస్ట్ చెప్పిన దాని ప్రకారం, సుమారు ఏడు సంవత్సరాల లో ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ అనేది మానవాళికి పెనుముప్పుగా మారుతుంది. అంతేకాకుండా ఇది దేనికి దారి తీస్తుందో కూడా ఎవరు అంచనా కూడా వేయలేరు అని పేర్కొంది. ఈ విషయంలోనే, పేటీఎం సీఈవో చాలా ఆందోళనగా కనిపిస్తున్నారు. మానవాళికి పొంచి ఉన్న ముప్పు గురించి ఆయన చాలా బాధపడుతున్నారు. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ అనేది హానికరమని ఖచ్చితంగా నమ్ముతున్నారు.

చాట్‌జిపిటి సృష్టికర్త OpenAI మరిన్ని ఎక్కువ వనరుల మీద పెట్టుబడి పెట్టాలని, అంతేకాకుండా దాని కృత్రిమ మేధస్సు మానవులకు సురక్షితంగా ఉండేలా చూసేందుకు కొత్త పరిశోధన బృందాన్ని రూపొందించాలని ఆలోచనలో పడింది. అంటే ముఖ్యంగా AIని స్వయంగా పర్యవేక్షించడానికి ఉపయోగిస్తుంది.

OpenAI గురించి మరింత:

బుధవారం అందిన సమాచారం ప్రకారం, చాట్‌జిపిటి సృష్టికర్త OpenAI మరిన్ని ఎక్కువ వనరుల మీద పెట్టుబడి పెట్టాలని, అంతేకాకుండా దాని కృత్రిమ మేధస్సు మానవులకు సురక్షితంగా ఉండేలా చూసేందుకు కొత్త పరిశోధన బృందాన్ని రూపొందించాలని ఆలోచనలో పడింది. అంటే ముఖ్యంగా AIని స్వయంగా పర్యవేక్షించడానికి ఉపయోగిస్తుంది.

” నిజానికి ఈ ఆర్టిఫిషియల్ సూపర్ ఇంటెలిజెన్స్కున్నా శక్తి ఏదైతే ఉందో, అది తప్పకుండా మానవత్వం నిర్వీర్యానికి లేదా మానవ వినాశనానికి కూడా దారి తీస్తుంది” అని OpenAI సహ వ్యవస్థాపకుడు ఇల్యా సుట్స్‌కేవర్ అంతే కాకుండా అలైన్‌మెంట్ హెడ్ జాన్ లీకే ఒక బ్లాగ్ పోస్ట్‌లో రాశారు. “ప్రస్తుతం, శక్తివంతమైన సూపర్‌ ఇంటెలిజెంట్ AIని సరైన దారిలో ఉపయోగించకోవడానికి అదేవిధంగా దాన్ని నియంత్రించడానికి మా దగ్గర పరిష్కారం లేదు.”

సూపర్ ఇంటెలిజెంట్ AI – నిజానికి ఇది మానవుల కంటే ఎక్కువ తెలివైన వ్యవస్థ అని చాలామంది బ్లాగ్ పోస్ట్లో పోస్ట్ చేయడం జరిగింది. మానవులకు సూపర్ ఇంటెలిజెంట్ AIని నియంత్రించడానికి ప్రస్తుతం అందుబాటులో ఉన్న దానికంటే మెరుగైన సాంకేతికతలు అవసరం, అందువల్ల “అలైన్‌మెంట్ రీసెర్చ్” అని పిలవబడే పురోగతి అవసరం, ఇది AI మానవులకు ప్రయోజనకరంగా ఉండేలా చూసుకోవడంపై దృష్టి పెడుతుంది. కానీ అధికారులు పేర్కొన్నారు.

సూపర్‌లైన్‌మెంట్ టీమ్ ఎవరు?:

మైక్రోసాఫ్ట్ మద్దతుతో వస్తున్న ఈ OpenAI, ఈ సమస్యను పరిష్కరించడానికి రాబోయే నాలుగేళ్లలో 20% కంప్యూట్ పవర్‌ను ఉపయోగించాల్సిన పని ఉంది. అంతేకాకుండా, ప్రస్తుతం కంపెనీ ఈ ప్రయత్నాన్ని నిర్వహించే కొత్త బృందాన్ని ఏర్పాటు చేస్తోంది, దీనిని సూపర్‌లైన్‌మెంట్ టీమ్ అని పిలవడం జరుగుతుంది.

ముఖ్యంగా ఈ సూపర్ లైన్ మెంట్ టీం లక్ష్యం “మానవ-స్థాయి” AIని అలైన్మెంట్ చేసే పరిశోధకుడిని సృష్టించడం, ఆ తర్వాత విషయానికి వస్తే విస్తారమైన గణన శక్తి ద్వారా దానిని స్కేల్ చేయడం. OpenAI అంటే వారు మానవ అభిప్రాయాన్ని ఉపయోగించి AI సిస్టమ్‌లకు శిక్షణ ఇస్తారని, మానవ మూల్యాంకనానికి అసిస్టెంట్‌గా AI సిస్టమ్‌లకు శిక్షణ ఇస్తారని, ఆ తర్వాత చివరకు అలైన్మెంట్ పరిశోధన చేయడానికి AI సిస్టమ్‌లకు శిక్షణ ఇస్తారని చెప్పారు.

AI భద్రతా న్యాయవాది కానర్ లీహీ మాట్లాడుతూ, ఇప్పుడు సృష్టించిన ఈ సూపర్ ఆర్టిఫిషియల్ ఇంటిలిజెన్స్ విషయంలో ఎన్నో రకాల లోపాలు ఉన్నాయని, ఎందుకంటే ప్రారంభ మానవ-స్థాయి AI AI భద్రతా సమస్యలను పరిష్కరించడానికి బలవంతం చేసే ప్రయత్నాలు చేస్తే తప్పకుండా అది వినాశనం కలిగిస్తుందని ఆయన పేర్కొన్నారు.

“మీరు మానవ-స్థాయి మేధస్సును రూపొందించడానికి ముందు అలైన్మెంట్ సమస్య అనేది పరిష్కరించాలి, లేకపోతే డిఫాల్ట్‌గా మీరు దానిని కంట్రోల్ అయితే చేయలేరు. ఇది ప్రత్యేకంగా మంచి సురక్షితమైన ప్రణాళిక అని నేను వ్యక్తిగతంగా భావించడం లేదు.” అని అతను ఒక ఇంటర్వ్యూలో చెప్పాడు.

AI ద్వారా సంభవించే ప్రమాదాలు గురించి AI పరిశోధకులకు అదేవిధంగా సాధారణ ప్రజలకు కూడా కొన్ని భయాలు అనేవి ఉన్నాయి. ఏప్రిల్‌లో, AI పరిశ్రమ నాయకులు మరియు నిపుణుల బృందం OpenAI -GPT-4 కంటే శక్తివంతమైన వ్యవస్థలను అభివృద్ధి చేయడంలో ఆరు నెలల విరామం కోసం పిలుపునిస్తూ బహిరంగ లేఖపై సంతకం చేసింది, ఇది సమాజానికి సంభవించే ప్రమాదాలను సూచిస్తుంది. మే రాయిటర్స్/ఇప్సోస్ పోల్ ప్రకారం మూడింట రెండు వంతుల మంది అమెరికన్లు మీద AI శక్తి అనేది ప్రతికూల ప్రభావాల గురించి ఆందోళన చెందుతున్నారు మరియు 61% మంది ఇది నాగరికతకు ముప్పు కలిగిస్తుందని గట్టిగా నమ్ముతున్నారు.

Tags :