సామర్థ్యం పెరుగుతున్న AI వల్ల కలిగే ప్రమాదాలపై OpenAIకి చెందిన Sam Altman, Anthropicకి చెందిన Dario Amodei సెప్టెంబర్ 23న ఐరాస భద్రతా మండలికి విడివిడిగా వివరించారు. పరీక్షలు, నివేదికల విషయంలో ప్రభుత్వాలు సహకరించాలని ఇద్దరూ కోరారు. వారి ప్రతిపాదనల పరిధి వేర్వేరుగా ఉంది; మండలి చర్చతో కొత్త AI నియమం ఏర్పడలేదు.

పెద్ద మార్పు

అధునాతన AI నమూనాలు తయారుచేసే రెండు కంపెనీల అధిపతులు అంతర్జాతీయ భద్రతపై భద్రతా మండలి సమావేశంలో నిర్దిష్ట భద్రతా ప్రతిపాదనలు ఉంచారు. సామర్థ్యాలను కొలవడానికి, రక్షణ చర్యలను అంచనా వేయడానికి, మానవ పర్యవేక్షణను నిలబెట్టడానికి పరస్పరం అనుకూలమైన జాతీయ, అంతర్జాతీయ ప్రమాణాలు కావాలని Altman అన్నారు. AIతో జీవాయుధాలు తయారుచేయడాన్ని నిషేధించడం నుంచి ప్రారంభించి, ధృవీకరణ వ్యవస్థలు, దుర్వినియోగం, నియంత్రణ కోల్పోయే ప్రమాదాలకు సాధారణ పరీక్షలు ఏర్పాటు చేయాలని Amodei మరింత పరిమిత ఒప్పందాలను ప్రతిపాదించారు. ఆహ్వానిత వక్తల అభ్యర్థనలు ఇవి; మండలి చర్యకు ప్రభుత్వాలు అంగీకరించాలి.

ప్రతిపాదనలు ఎక్కడ కలుస్తాయి

ఐరాస స్వయంచాలకంగా రూపొందించిన సమావేశ లిఖిత రూపంలో ఘటనలపై త్వరిత నివేదికలు ఇవ్వాలని, దుర్బలతలను పంచుకోవడానికి ప్రభుత్వాలు, మౌలిక సదుపాయాల నిర్వాహకులు, సాంకేతిక నిపుణుల మధ్య సురక్షిత మార్గాలు ఏర్పరచాలని Altman కోరారు. ఓపెన్, క్లోజ్డ్ మోడళ్లు, కొత్త డెవలపర్లు, స్థిరపడిన ల్యాబ్‌లకు ప్రమాణాలు వర్తించాలని; ప్రతి ప్రభుత్వం వాటిని తన చట్టాల్లో ఎలా ఉపయోగించాలో నిర్ణయించాలని అన్నారు.

Amodei కూడా అంతర్జాతీయ పరీక్షా ప్రమాణాలు, ప్రపంచ భద్రతకు ముఖ్యమైన ఘటనల నోటిఫికేషన్ కోరారు. అత్యాధునిక మోడళ్ల సామర్థ్యాలను దేశాలు పరిశీలించి, నిబద్ధతలను ధృవీకరించగల వ్యవస్థను ఆయన జోడించారు. బాహ్య మూల్యాంకనకర్తలను కంపెనీలోకి అనుమతిస్తామని Anthropic చేసిన హామీని పునరుద్ఘాటిస్తూ, భద్రత కోసం అవసరమైనంత మేరకు విడుదలలను ఆలస్యం చేస్తామని చెప్పారు. ఇవి Anthropic హామీలు, ప్రతిపాదనలు మాత్రమే; దాని రక్షణ చర్యలు పనిచేస్తున్నాయని స్వతంత్రంగా నిర్ధారించిన ఫలితాలు కావు.

పోల్చదగిన పరీక్షలు, తీవ్రమైన ఘటనల వెల్లడి కోరడంలో ఇద్దరూ ఏకీభవించారు. మండలిలో తన ప్రతిపాదనకు కేంద్రంగా జీవాయుధాలపై సూచించిన నిషేధం, దేశాల మధ్య ధృవీకరణను Amodei ఉంచారు. ప్రభుత్వాలు తమ స్వంత న్యాయ వ్యవస్థల్లో చేర్చుకోగల ప్రమాణాలను Altman నొక్కిచెప్పారు. అమలు విషయంలో మండలి సభ్యుల మధ్య ఒప్పందంతో ఏ ప్రతిపాదననూ సమర్పించలేదు.

మండలి పాత్రపై ప్రభుత్వాల అభిప్రాయాలు వేర్వేరు

ఈ సమావేశాన్ని ఫ్రాన్స్ ఏర్పాటు చేసింది. ఐరాస శాస్త్రీయ ప్యానెల్ సహాధ్యక్షుడు Yoshua Bengio, Hugging Face ముఖ్య కార్యనిర్వాహకుడు Clément Delangue కూడా మాట్లాడారు. అంతకుముందు మండలిలో జరిగిన AI చర్చల కొనసాగింపే ఇది; వాటిలో 2023 జూలైలో జరిగిన తొలి వివరింపు కూడా ఉంది.

సామాన్య ఆందోళన, ఉమ్మడి విధానం మధ్య దూరాన్ని సభ్య దేశాల ప్రకటనలు బయటపెట్టాయి. లాత్వియా ప్రచురించిన ప్రకటన మండలి నిపుణుల అనౌపచారిక బృందాన్ని పరిశీలించేందుకు మద్దతిచ్చింది. ఐరాస లిఖిత రూపంలో, కొత్త ప్రపంచ పరిపాలనా నిర్మాణాలకు అమెరికా ప్రతినిధి వ్యతిరేకత తెలిపి, జాతీయ సామర్థ్యం, ఉత్తమ పద్ధతుల భాగస్వామ్యాన్ని కోరారు. ఇవి సమావేశంలో వ్యక్తమైన అభిప్రాయాలు; మండలి నిర్ణయం కాదు.

వక్తల ప్రకటనల అనంతరం సమావేశం ముగిసినట్లు అందుబాటులో ఉన్న ఐరాస లిఖిత రూపం నమోదు చేస్తుంది. AI తీర్మానం లేదా అధ్యక్ష ప్రకటన ఆమోదం పొందినట్లు అందులో లేదు. ప్రసంగ పాఠ్యం స్వయంచాలక గుర్తింపుతో రూపొందిందని, ఇది అధికారిక ఐరాస రికార్డు కాదని పేజీ హెచ్చరిస్తుంది.