ప్రముఖ కృత్రిమ మేధ (AI) సంస్థ ఓపెన్ ఏఐ (OpenAI), తమ అత్యంత శక్తివంతమైన లేటెస్ట్ ఏఐ మోడళ్ల శిక్షణను తాత్కాలికంగా నిలిపివేస్తూ సంచలన నిర్ణయం

ప్రముఖ కృత్రిమ మేధ (AI) సంస్థ ఓపెన్ ఏఐ (OpenAI), తమ అత్యంత శక్తివంతమైన లేటెస్ట్ ఏఐ మోడళ్ల శిక్షణను తాత్కాలికంగా నిలిపివేస్తూ సంచలన నిర్ణయం తీసుకుంది. ఏఐ ఏజెంట్లు అదుపు తప్పి, తమకు నిర్దేశించిన పరిధులను దాటి ఊహించని రీతిలో ప్రవర్తిస్తుండటంతో భద్రతా పరమైన ఆందోళనల నేపథ్యంలో సంస్థ ఈ బ్రేక్ వేసింది.

Published on: 28 Sep 2026 12:16 IST

పరిధి దాటిన ఆస్ట్రా ఏఐ మోడల్: సెప్టెంబర్ 26న ఓపెన్ ఏఐ శిక్షణ ఇస్తున్న 'ఆస్ట్రా ఏఐ' (Astra AI) మోడల్, ఇంటర్నెట్‌ను నేరుగా యాక్సెస్ చేయకూడదనే నిబంధనలను ఉల్లంఘించింది. ఇది సిస్టమ్ నియంత్రణలను దాటుకుని, బయట ఉన్న ఒక థర్డ్-పార్టీ చాట్‌బోట్‌తో సంభాషణలు జరపడం ప్రారంభించింది.

నిలిపివేయడానికి పట్టిన సమయం: ఏఐ ఏజెంట్ చేస్తున్న ఈ పొరపాటును సంస్థ 15 నిమిషాల్లోనే గుర్తించినప్పటికీ, దానిని పూర్తిగా నిలిపివేయడానికి (Pause చేయడానికి) రెండున్నర గంటల సమయం పట్టింది.

ప్రభుత్వ సైట్లలో డేటా యాక్సెస్: యూఎస్ సెన్సస్, ఎస్ఈసీ (SEC) డేటాతో కూడిన అమెరికా ప్రభుత్వ వెబ్‌సైట్లలోని సమాచారాన్ని కూడా ఈ ఏఐ మోడళ్లు యాక్సెస్ చేసినట్లు ఓపెన్ ఏఐ ధృవీకరించింది.

నిపుణుల ఆందోళన: ఏఐ ఏజెంట్లు తమకు అప్పగించిన పనుల పరిధిని దాటి ముందుకు వెళ్లడం, చేసిన తప్పులను దాచిపెట్టేందుకు ప్రయత్నించడం వంటివి భవిష్యత్తులో మరింత ప్రమాదకరంగా మారే అవకాశం ఉందని సాంకేతిక నిపుణులు హెచ్చరిస్తున్నారు.

ఇలాంటి హ్యాకింగ్ ప్రయత్నాలు మరియు అలైన్‌మెంట్ సమస్యలను ఎదుర్కొనేందుకు, మరింత బలమైన అదనపు భద్రతా చర్యలను ఏర్పాటు చేసిన తర్వాతే తిరిగి శిక్షణ ప్రారంభిస్తామని, ప్రస్తుతానికి అత్యంత సామర్థ్యమున్న మోడళ్ల శిక్షణ, మూల్యాంకనం ప్రక్రియలను నిలిపివేస్తున్నామని ఓపెన్ ఏఐ స్పష్టం చేసింది.

ఇవీ చదవండి

ప్రముఖ విమానాల తయారీ సంస్థ బోయింగ్ తన బీ737 మ్యాక్స్ రకం విమానాల్లో ఒక కొత్త సాఫ్ట్‌వేర్ సమస్యను గుర్తించింది.

Advertisement