‘AI తనను తాను మరింత శక్తివంతం చేసుకుంటే.. మానవుల నియంత్రణ తప్పొచ్చు’ – ఆంథ్రోపిక్ హెచ్చరిక
ప్రపంచ ప్రఖ్యాత కృత్రిమ మేధస్సు (AI) సంస్థలలో ఒకటైన ఆంత్రోపిక్ సంచలన హెచ్చరిక చేసింది. భవిష్యత్తులో AI వ్యవస్థలు తమకంటే మరింత శక్తివంతమైన కొత్త AIలను స్వయంగా రూపొందించగల స్థాయికి చేరుకుంటే, వాటిపై మానవుల నియంత్రణ కోల్పోయే ప్రమాదం ఉందని గుర్తించబడింది.
“వెన్ AI బిల్డ్స్ ఇట్సెల్ఫ్” పేరుతో విడుదల చేసిన పరిశోధన నివేదికలో, ప్రస్తుతం AI ఇప్పటికే AI అభివృద్ధిలో కీలక పాత్ర పోషిస్తోంది. ముఖ్యంగా ఆంత్రోపిక్ అభివృద్ధి చేసిన Claude AI మోడల్ సంస్థ కోడ్ అభివృద్ధిలో భారీగా ఉపయోగపడుతోంది. మే 2026 నాటికి ఆంత్రోపిక్ కోడ్బేస్లో విలీనం అయిన కోడ్లో 80 శాతం క్లాడ్ రూపొందించబడింది.
AI తన తదుపరి తరాన్ని తానే రూపొందించుకునే ప్రక్రియను “పునరావృత స్వీయ-అభివృద్ధి”గా పిలుస్తారు. అంటే ఒక AI వ్యవస్థ తనకంటే మెరుగైన AIని సృష్టించడం, ఆ కొత్త AI మరింత శక్తివంతమైన మరో AIని తయారు చేయడం. ఈ ప్రక్రియ వేగంగా కొనసాగితే AI సామర్థ్యాలు మానవుల అంచనాలకు మించి పెరిగే అవకాశం ఉంది Anthropic.
అయితే ప్రస్తుతం అలాంటి పరిస్థితి రాలేదని, ఇది తప్పనిసరిగా జరుగుతుందని కూడా చెప్పలేమని సంస్థ స్పష్టం చేసింది. కానీ సాంకేతిక పరిణామాలు చూస్తుంటే ఆ దిశగా అభివృద్ధి వేగంగా సాగుతోందని హెచ్చరించింది.
ఈ నేపథ్యంలో ప్రపంచంలోని ప్రధాన AI సంస్థలు, కలిసి అవసరమైతే అత్యాధునిక AI ని తాత్కాలికంగా మందగించే లేదా నిలిపివేసే వ్యవస్థను సిద్ధం చేసుకోవాలని ఆంత్రోపిక్ సూచించింది. AI అభివృద్ధి వేగానికి అనుగుణంగా భద్రతా ప్రమాణాలు, నియంత్రణ వ్యవస్థలు కూడా అభివృద్ధి చెందాల్సిన అవసరం లేదు.
ఈ హెచ్చరికలపై సోషల్ మీడియాలో మిశ్రమ స్పందనలు వ్యక్తమవుతున్నాయి. AI భద్రతపై ఆంత్రోపిక్ ఆందోళనలు సమంజసమని కొందరు భావిస్తున్నట్లుగా, మరికొందరు అతిశయోక్తులని వ్యాఖ్యానిస్తున్నారు.
