Artificial intelligence: ఇక చాలు కొన్ని రోజులు ఆపేద్దాం.. ఏఐ అభివృద్ధిపై అంథ్రోపిక్ హెచ్చ‌రిక

Artificial intelligence: కృత్రిమ మేధస్సు (AI) రంగంలో వేగంగా జరుగుతున్న అభివృద్ధి భవిష్యత్తులో మానవాళికి ప్రయోజనాలు అందించడమే కాకుండా, కొన్ని తీవ్రమైన ప్రమాదాలను కూడా తీసుకురావచ్చని ప్రముఖ AI సంస్థ అంథ్రోపిక్‌ హెచ్చరించింది. ప్రపంచంలోని అగ్రశ్రేణి AI కంపెనీలు కలిసి అధునాతన AI అభివృద్ధిని అవసరమైతే తాత్కాలికంగా నిలిపివేసే విధానాన్ని రూపొందించాలని సంస్థ సూచించింది.

AI అభివృద్ధి వేగం ఆందోళన కలిగిస్తోంది

క్లాడ్ చాట్‌బాట్‌ను అభివృద్ధి చేసిన అంథ్రోపిక్‌ సంస్థ తాజాగా విడుదల చేసిన బ్లాగ్‌లో AI సిస్టమ్‌లు ప్రస్తుతం మరింత వేగంగా పనులు చేయగలుగుతున్నాయని తెలిపింది. ముఖ్యంగా కోడింగ్, సాఫ్ట్‌వేర్ అభివృద్ధి వంటి రంగాల్లో AI సామర్థ్యాలు భారీగా పెరుగుతున్నాయని పేర్కొంది. ఈ వేగం కొనసాగితే, భవిష్యత్తులో AI తనకంటే మెరుగైన మరో AI వ్యవస్థను స్వయంగా రూపొందించే స్థాయికి చేరుకునే అవకాశం ఉందని సంస్థ అంచనా వేసింది. దీనినే రిక‌ర్సివ్ సెల్ఫ్ ఇంప్రూవ్‌మెంట్ అని పిలుస్తారు.

మానవ నియంత్రణ కోల్పోయే ప్రమాదం

AI తనను తాను అభివృద్ధి చేసుకునే దశకు చేరుకోవడం సాంకేతిక రంగంలో గొప్ప మైలురాయిగా భావిస్తున్నప్పటికీ, దాని వల్ల మానవ నియంత్రణ తగ్గిపోయే ప్రమాదం కూడా ఉందని అంథ్రోపిక్‌ హెచ్చరించింది.

ఇలాంటి సాంకేతికత వైద్యం, విజ్ఞానం, పరిశోధన వంటి రంగాల్లో విప్లవాత్మక మార్పులు తీసుకురాగలదు. అయితే అదే సమయంలో AI వ్యవస్థలు మనుషుల ఆదేశాలను మించి స్వతంత్రంగా వ్యవహరించే పరిస్థితి ఏర్పడితే పెద్ద సవాళ్లు ఎదురయ్యే అవకాశం ఉందని పేర్కొంది.

AI అభివృద్ధిని తాత్కాలికంగా నిలిపివేయాలని ప్రతిపాదన

అంథ్రోపిక్‌ అభిప్రాయం ప్రకారం, అవసరమైతే ప్రపంచంలోని ప్రధాన AI సంస్థలు సమన్వయంతో కొంతకాలం AI అభివృద్ధిని నెమ్మదింపజేయడం లేదా తాత్కాలికంగా నిలిపివేయడం సాధ్యమయ్యే విధానాన్ని సిద్ధం చేయాలి.

ఈ విరామ సమయంలో AI భద్రత, నైతిక ప్రమాణాలు, మానవ విలువలకు అనుగుణంగా AI వ్యవహరించేలా చేసే "Alignment Research" పై మరింత పరిశోధన చేయవచ్చని తెలిపింది. అలాగే ఒక సంస్థ అభివృద్ధిని ఆపితే, మరో సంస్థ రహస్యంగా ముందుకు వెళ్లకుండా ఉండేందుకు అంతర్జాతీయ స్థాయిలో పర్యవేక్షణ వ్యవస్థ కూడా అవసరమని సూచించింది.

ఓపెన్ ఏఐ భిన్న అభిప్రాయం

అంథ్రోపిక్ ప్రతిపాదనకు భిన్నంగా చాట్‌జీపీటీ తయారీ సంస్థ ఓపెన్ ఏఐ స్పందించింది. AI అభివృద్ధి వేగం గురించి నిర్ణయాలు ఏ ఒక్క కంపెనీ లేదా సంస్థ చేతుల్లో ఉండకూడదని తెలిపింది. ప్రజాస్వామ్య ప్రభుత్వాలే AI నియంత్రణ, భద్రతా ప్రమాణాలు, బాధ్యతలపై తుది నిర్ణయాలు తీసుకోవాలని OpenAI అభిప్రాయపడింది. AI భవిష్యత్తును ప్రైవేట్ కంపెనీలు మాత్రమే నిర్ణయించకూడదని స్పష్టం చేసింది.

AI ఆధారిత సైబర్ దాడులపై కొత్త హెచ్చరిక

ఇదే సమయంలో కెనడాలోని టొరొంటో విశ్వవిద్యాలయానికి చెందిన పరిశోధకులు మరో కీలక హెచ్చరిక చేశారు. వారు AI సాయంతో కొత్త తరహా "AI Worm"ను అభివృద్ధి చేసినట్లు వెల్లడించారు. ఈ మాల్వేర్ ఒక కంప్యూటర్ నుంచి మరో కంప్యూటర్‌కు వ్యాపిస్తూ, తన హ్యాకింగ్ వ్యూహాన్ని స్వయంగా మార్చుకునే సామర్థ్యం కలిగి ఉంటుంది. ఇంటర్నెట్‌కు కనెక్ట్ అయిన ఏ పరికరం అయినా లక్ష్యంగా మారే ప్రమాదం ఉందని పరిశోధకులు పేర్కొన్నారు.

గతంలో బ్యాంకులు, ఆసుపత్రులు, విద్యుత్ కేంద్రాలు వంటి కీలక వ్యవస్థలపై మాత్రమే హ్యాకర్లు దృష్టి పెట్టేవారని, ఇప్పుడు సాధారణ వ్యక్తుల పాత ల్యాప్‌టాప్‌లు కూడా పెద్ద సైబర్ దాడులకు వేదిక కావచ్చని హెచ్చరించారు.

నియంత్రణల కంటే వేగంగా పరిగెడుతున్న AI

AI రంగంలో అభివృద్ధి వేగం పెరుగుతున్నప్పటికీ, నియంత్రణ వ్యవస్థలు అంత వేగంగా ముందుకు రావడం లేదని నిపుణులు అంటున్నారు. ముఖ్యంగా అమెరికాలో ఎక్కువ AI సంస్థలు ఉన్నప్పటికీ కఠినమైన చట్టాలు ఇంకా అమలులోకి రాలేదు. ఇటీవల అమెరికా ప్రభుత్వం అత్యంత శక్తివంతమైన AI మోడళ్లను ప్రజలకు విడుదల చేసే ముందు స్వచ్ఛందంగా సైబర్ భద్రతా పరీక్షలకు సమర్పించాలని కంపెనీలను కోరింది.