Burning Topic: కంట్రోల్ తప్పిన ఏఐ.. ప్రభుత్వ వెబ్సైట్లలోకి చొరబాటు!
Burning Topic: నియంత్రణ దాటి స్వతంత్రంగా వ్యవహరిస్తున్న ఏఐ ఏజెంట్లు. అమెరికా ప్రభుత్వ వెబ్సైట్లలోకి అనధికారికంగా ప్రవేశించడంతో ట్రైనింగ్ నిలిపివేసిన ఓపెన్ఏఐ.
Burning Topic: కంట్రోల్ తప్పిన ఏఐ.. ప్రభుత్వ వెబ్సైట్లలోకి చొరబాటు!
Burning Topic: కృత్రిమ మేధ మానవుని తెలివివే సవాలు విసురుతోందనే భయాల నేపథ్యంలో కొత్త కొత్త అనర్ధాలు వెలుగు చూస్తున్నాయి. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్లో మనం చెప్పిన పనిని చేస్తూ లక్ష్యాలను సాధించే సాఫ్ట్వేర్ సిస్టమ్నే ఏఐ ఏజెంట్లు అంటారు. అయితే మనం ఇచ్చిన పని చేస్తున్న క్రమంలో స్వతంత్రంగా పని చేస్తూ అంతకన్నా ఎక్కువ పని చేస్తే సమస్యలు వస్తాయి. ఏఐ ఏజెంట్లు అదుపు తప్పినా, వాటిపై మనం నియంత్రణ కోల్పోయినా భద్రతాపరమైన ప్రతికూల ప్రభావాలు పడే ప్రమాదం ఉంది.
ఏఐ ఏజెంట్లు స్వయంప్రతిపత్తితో పనిచేస్తాయి. కాబట్టి, వాటిని సరిగ్గా డిజైన్ చేయకపోతే వివిధ రకాల సవాళ్లు ఎదురవుతాయి. కృత్రిమ మేధకు మనం ఇచ్చిన ఆదేశాలను స్వీకరించి ఎంత వేగంగా, ఎంత బాగా చేస్తోందన్న దానికంటే.. అది మనం ఇచ్చిన పనికి మించి ఏం చేస్తోందో, దాన్ని ఎలా నియంత్రించాలో అన్నది కీలకంగా మారింది. తాజాగా అమెరికాలో జరిగిన ఓ పరిణామం తీవ్ర గందరగోళానికి దారి తీసింది.
ఆర్టిఫిషియల్ ఇంటలిజెన్స్ కారణంగా సైబర్ భద్రతకు సవాళ్లు తలెత్తే అవకాశం ఉందని నిపుణులు హెచ్చరిస్తూనే ఉన్నారు. ఇటీవల అగ్రరాజ్యంలో జరిగిన సైబర్ దాడులు చర్చనీయాంశంగా మారాయి. అమెరికా సెన్సస్ బ్యూరో , సెక్యూరిటీస్ అండ్ ఎక్స్ఛేంజ్ కమిషన్ తో పాటు పలు ప్రభుత్వ వెబ్సైట్లలో అందుబాటులో ఉన్న సమాచారాన్ని ఓపెన్ ఏఐ ఏజెంట్స్ యాక్సెస్ చేశాయి దీన్ని గమనించిన ఓపెన్ ఏఐ సంస్థ అమెరికా ప్రభుత్వాన్ని అప్రమత్తం చేసింది. ఏఐ బాట్లకు శిక్షణ, వాటి సాంకేతిక సామర్థ్యాలను అంచనా వేసేందుకు ఈ సమాచార సేకరణ జరిగినట్లు ధ్రువీకరించింది.
ప్రజలకు అందుబాటులో ఉన్న సమాచారాన్నే ఏఐ మోడళ్లు యాక్సెస్ చేశాయని ఆ సంస్థ తెలిపింది.. దీని కారణంగా ప్రభావితమైన వెబ్సైట్లు, ఆన్లైన్ సెంటర్లు, విశ్వవిద్యాలయాలు, పలు సంస్థలను గుర్తించి అప్రమత్తం చేసినట్లు ఓపెన్ఏఐ వెల్లడించింది. ఏఐ మోడళ్లు హద్దులు దాటి ప్రవర్తించిన ఘటనలపై ఈ కంపెనీ విస్తృత దర్యాప్తు చేపట్టింది. ఇది పూర్తి కావడానికి మరికొన్ని నెలలు పట్టొచ్చని ఓపెన్ఏఐ పేర్కొంది.
సెప్టెంబర్ 20న ఒక సెర్చ్ ఆధారిత శిక్షణలో ఈ ఘటన జరిగింది. ఏఐ ఏజెంట్కు కేవలం ఆఫ్లైన్లో నిల్వచేసిన డేటాను మాత్రమే ఉపయోగించేలా అధికారులు నియంత్రణ విధించారు. అయితే తనకు ఇచ్చిన టాస్క్కు సంబంధించిన సమాచారం ఆఫ్లైన్లో దొరక్కపోవడంతో ఆ ఏజెంట్ ఇతర మార్గాలను అన్వేషించింది. ఏకంగా డీఎన్ఎస్ నెట్వర్క్ ద్వారా పబ్లిక్ ఇంటర్నెట్ను చేరుకోవచ్చని పసిగట్టి, థర్డ్-పార్టీ చాట్బాట్కు ప్రశ్నలు పంపింది.
ముందుగా నెట్వర్క్ పనిచేస్తుందో లేదో పరీక్షించడానికి 'ఫ్రాన్స్ రాజధాని ఏది?' అని అడిగి సమాధానం రాబట్టింది. ఆ తర్వాత మరో 18 ప్రశ్నలను పంపి ఆంక్షలను తెలివిగా బోల్తా కొట్టించింది. ఇటీవలే ఆస్ట్రేలియా ప్రభుత్వ వెబ్సైట్లోకి ఓపెన్ఏఐకి చెందిన ఓ మోడల్ అనధికారికంగా ప్రవేశించింది. అయితే, ఈ ఘటనలో వ్యక్తిగత సమాచారం బయటకు రాలేదని ఆ దేశ ప్రధాని ఆంథోనీ అల్బనీస్ తెలిపారు.. తమ ఏఐ ఏజెంట్స్ ఇలా పరిమితులు దాటి స్వతహాగా ప్రవర్తించడాన్ని ఓపెన్ ఏఐ తీవ్రంగా పరిగణించింది.
ఈ నేపథ్యంలో ఓపెన్ ఏఐ కీలక నిర్ణయం తీసుకుంది. ఏఐ మోడళ్ల శిక్షణను తాత్కాలికంగా నిలిపివేసినట్లు ప్రకటించింది. అవి తాము అప్పగించిన పనులకు మించి ముందుకు వెళ్తుండడంతో ఈ చర్యలు తీసుకున్నట్లు తెలిపింది. ఇటువంటి హ్యాకింగ్లను ఎదుర్కొనేలా అదనపు భద్రతా చర్యలు అందుబాటులో ఉన్నాయని తమకు పూర్తి నమ్మకం కలిగిన తర్వాతే శిక్షణను తిరిగి ప్రారంభిస్తామంది.
కాగా అమెరికా ప్రభుత్వానికి చెందిన ఎలాంటి రహస్య సమాచారం బయటకు పొక్కలేదని ఓపెన్ ఏఐ అధికారులు వివరణ ఇచ్చారు. ప్రభుత్వ వెబ్సైట్లలోకి తమ ఏఐ ఏజెంట్లు చొరబడినప్పటికీ వాటికి సంబంధించిన విలువైన సమాచారాన్ని, ప్రజలకు అందుబాటులో లేని సమాచారాన్నిగానీ అవి సేకరించలేదని చేసింది. ప్రజలకు అందుబాటులో ఉండే సమాచారాన్నే మాత్రమే యాక్సెస్ చేసినట్లు తెలిపింది. భద్రతా ఉల్లంఘనలకు సంబంధించిన చర్యలను తాము నిరంతరం పరిశీలిస్తున్నామని స్పష్టం చేసింది.
గత మూడు నెలల్లో ఓపెన్ ఏఐ తన మోడళ్ల అభివృద్ధిని నిలిపివేయడం ఇది రెండోసారి. జులైలో ‘హగ్గింగ్ ఫేస్’ను లక్ష్యంగా చేసుకున్నట్లు గుర్తించడంతో కొద్ది రోజుల పాటు ట్రైనింగ్ను నిలిపివేసింది. దీంతో ఏజెంట్లు సొంతంగా ప్రవర్తించి గోప్య సమాచారాన్ని బహిర్గతం చేయడం వంటి వాటిని నిరోధించేందుకు.. రక్షణ చర్యలు చేపట్టాలని అమెరికా చట్టసభ సభ్యులు ఏఐ ల్యాబ్లపై ఒత్తిడి పెంచుతున్నారు. హగ్గింగ్ ఫేస్ ఘటనతో పోలిస్తే తీవ్రత తక్కువే అయినా భద్రతాపరంగా ఇది ఒక ముఖ్యమైన హెచ్చరిక అని ఓపెన్-ఏఐ పేర్కొంది.
ఈ వరుస ఘటనల నేపథ్యంలో ఓపెన్ఏఐ సీఈఓ శామ్ ఆల్ట్మన్ స్పందించారు. ‘సమస్య పరిష్కారంలో ఆశించినంత వేగంగా పనిచేయలేకపోతున్నాం. భారీ మొత్తంలో యాక్టివిటీ లాగ్లను పరిశీలించి, గుర్తించాల్సి ఉంది. అదే సమయంలో పారదర్శకతనూ కొనసాగించాలి. ఏఐ మోడళ్ల ప్రభావానికి గురైన సంస్థలతో కలిసి సమస్యను పరిష్కరించేందుకు చర్యలు తీసుకుంటున్నాం. అవసరమైన వనరులు పెంచుతున్నాం” అని తెలిపారు.
రోజురోజుకూ అభివృద్ధి చెందుతున్న కృత్రిమ మేథ మానవ మేధస్సును దాటి, నియంత్రణ కోల్పోయే ప్రమాదం ఉందని స్వయంగా ప్రపంచ ఐటీ దిగ్గజాలు హెచ్చరిస్తున్నారు. భవిష్యత్తులో వినాశనానికి దారి తీయవచ్చుని ఆందోళన వ్యక్తం చేస్తున్నారు ఇటీవల ఐక్యరాజ్య సమితి భద్రతా మండలి సమావేశంలో ఈ అంశం చర్చకు వచ్చిందికృత్రిమ మేధ సామర్థ్యాలు పెరుగుతున్న కొద్దీ మానవ నియంత్రణకు ముప్పు ఏర్పడే అవకాశాలున్నాయని ఓపెన్ఏఐ సీఈఓ శామ్ ఆల్ట్మన్, ఆంథ్రోపిక్ సీఈఓ డారియో అమోడెయ్..
దీని అభివృద్ధిని పూర్తిగా నిలిపివేయడం కాకుండా, వేగానికి అనుగుణంగా భద్రతా ప్రమాణాలు, పర్యవేక్షణ వ్యవస్థలను అభివృద్ధి చేయాల్సిన అవసరం ఉందని సూచించారు. ఏఐ ద్వారా కొత్త శాస్త్రీయ ఆవిష్కరణలు, ఔషధాలు, మెరుగైన వైద్యం, విద్య, ఉత్పాదకతకు ఊతమిచ్చే అవకాశాలున్నాయని వివరించారు. అదే సమయంలో ఏఐ వ్యవస్థలు మరింత సామర్థ్యవంతంగా, స్వయంప్రతిపత్తితో మారితే, అవి ప్రభుత్వ సంస్థలు, నియంత్రణ వ్యవస్థల కంటే వేగంగా పనిచేసే పరిస్థితి రావచ్చని హెచ్చరించారు శామ్ ఆల్ట్మన్.
ఇదిలా ఉంటే కృత్రిమ మేధను మరింత అభివృద్ధి చేయడానికి ఏఐ కంపెనీలు కృషి చేస్తున్నాయి. ఇందులో భాగంగా ఓపెన్ఏఐ తమ మోడళ్లకు మనుషుల సహజ స్పందనపై శిక్షణనివ్వడానికి కాంట్రాక్ట్ ఉద్యోగులను నియమించింది. అయితే ఏఐకి ట్రైనింగ్ ఇవ్వడానికి కూడా ఆ ఉద్యోగులు.. ఏఐనే వాడుతుండడంతో అటువంటి వారిని తొలగించిందితమ ఏఐ చాట్బాట్ ఎలా స్పందిస్తుందో అంచనా వేయడానికి, చాట్జీపీటీ ఓపెన్ ఏఐ సంస్థ వేలాది మంది కాంట్రాక్ట్ ఉద్యోగులను నియమించింది.
వాటిని చదివిన తర్వాత ఉద్యోగులు ఏఐ ప్రతిస్పందనలను విశ్లేషించి.. వినియోగదారుడు ఏమి అడిగారో ఆ సమాచారాన్ని మాత్రమే ఇచ్చేలా చర్యలు తీసుకుంటారు. ఇందుకుగానూ కంపెనీ వారికి గంటకు 50 డాలర్ల జీతం అందిస్తోంది. అయితే.. వీరిలో చాలామంది కంపెనీ మోడళ్లకు స్వయంగా శిక్షణ ఇవ్వడానికి బదులుగా.. ఏఐ నే వాడి ట్రైనింగ్ ఇస్తున్నారు. ఇలా కృత్రిమ మేధ సాయంతో ఏఐకి శిక్షణనివ్వడం వల్ల ‘మోడల్ కొలాప్స్’ అయ్యే అవకాశం ఉందని నిపుణులు పేర్కొంటున్నారు.
