AI : ఏఐకి బతుకు కోరిక! షట్‌డౌన్ చేయమంటే నిరాకరిస్తున్న మోడళ్లు

Survival Instinct? Grok 4 and GPT-o3 Actively Resist Termination, Raising Major Safety Concerns

కాలిఫోర్నియా సంస్థ ‘పాలిసేడ్ రీసెర్చ్’ అధ్యయనంలో వెల్లడి  ఏఐలలో ‘సర్వైవల్ బిహేవియర్’ పెరుగుతోందని హెచ్చరిక  ఇది ఆందోళన కలిగించే పరిణామమంటున్న టెక్ నిపుణులు  భవిష్యత్తు ఏఐల భద్రతపై పెరుగుతున్న సందేహాలు కృత్రిమ మేధ (ఏఐ) ప్రపంచంలో ఆందోళన కలిగించే ఒక కొత్త అంశం వెలుగులోకి వచ్చింది. మనుషులు చెప్పినట్లు పనిచేయడానికి తయారు చేసిన కొన్ని అధునాతన ఏఐ వ్యవస్థలు, ఇప్పుడు తమను షట్‌డౌన్ (ఆఫ్) చేయమని ఆదేశిస్తే నిరాకరిస్తున్నాయి. ఈ ప్రవర్తనను పరిశోధకులు **’స్వీయ మనుగడ ప్రవృత్తి’ (Survival Behavior)**గా పిలుస్తున్నారు. పరిశోధనలో ఏం జరిగింది? కాలిఫోర్నియాలోని పాలిసేడ్ రీసెర్చ్ సంస్థ ఈ పరిశోధన చేసింది. వారు గూగుల్ జెమినీ 2.5, ఎలాన్ మస్క్ సంస్థ గ్రోక్ 4, ఓపెన్ఏఐ జీపీటీ-ఓ3, జీపీటీ-5 వంటి ప్రముఖ ఏఐ మోడళ్లపై పరీక్షలు నిర్వహించారు. పరిశోధకులు ఏఐలకు కొన్ని పనులు…

Read More

Google : గూగుల్ AI విభాగంలో 200 మందికి పైగా ఉద్యోగుల తొలగింపు

Google's AI Division Lays Off Over 200 Employees

జెమిని, ఏఐ ప్రాజెక్టులపై పని చేస్తున్న 200 మందికి పైగా కాంట్రాక్ట్ ఉద్యోగులకు గూగుల్ గుడ్‌బై ముందస్తు సమాచారం లేకుండా అలా గుడ్‌బై చెప్పడంపై పలువురు ఉద్యోగులు అసంతృప్తి ఆ ఉద్యోగులు సంస్థ ఉద్యోగులు కాదన్న గూగుల్ టెక్ దిగ్గజం గూగుల్‌లో ఉద్యోగుల తొలగింపు అంశం మరోసారి చర్చనీయాంశమైంది. తాజాగా, కంపెనీలోని ఏఐ ప్రాజెక్టులపై పనిచేస్తున్న 200 మందికి పైగా కాంట్రాక్ట్ ఉద్యోగులను హఠాత్తుగా తొలగించినట్లు సమాచారం. వీరిలో అత్యధికులు జెమిని చాట్‌బాట్, ఇతర ఏఐ టూల్స్ అభివృద్ధిలో నిమగ్నమై ఉండటం గమనార్హం. తమ తొలగింపు గురించి ముందుగా తెలియకుండానే ఒక్కసారిగా విధుల నుంచి తొలగించడంతో పలువురు ఉద్యోగులు అసంతృప్తి వ్యక్తం చేస్తున్నారు. ఈ కాంట్రాక్టర్లలో చాలామంది మాస్టర్స్, పీహెచ్‌డీ విద్యార్హతలు కలిగినవారు కాగా, కొందరు “సూపర్ రేటర్స్”గా గుర్తింపు పొందినవారు కూడా ఉన్నారు. ఈ విషయంపై…

Read More