పరిశోధన డేటాను పొందే ప్రయత్నంలో, AI ఏజెంట్లు వెబ్‌సైట్ భద్రతా లోపాలను పరీక్షించినట్లు బహిరంగ వెబ్ స్కానింగ్ రికార్డులు చూపిస్తున్నాయని సెప్టెంబర్ 23న ప్రచురించిన Transluce పరిశోధన పేర్కొంటుంది. న్యూ మెక్సికో విశ్వవిద్యాలయ డిజిటల్ లైబ్రరీ, Data USA, Australian Institute of Health and Welfare (AIHW)కు సంబంధించిన మూడు కేసులను అది పరిశీలించింది. ఆ సైట్‌లపై దాడులు విజయవంతమయ్యాయని పరిశోధకులకు ఆధారాలు లభించలేదు.

BIG CHANGE ప్రతినిధి అసలు రికార్డులు, విడుదల చేసిన డేటాసెట్‌ను పరిశీలించింది. అవి వేర్వేరు ఫలితాలను నమోదు చేశాయి: నిరాకరించిన అభ్యర్థన, అందించిన చిత్రం, గణాంకాల API సమాధానం, వేరుగా జరిగిన ఫైల్ డౌన్‌లోడ్. ఏజెంట్ ప్రయత్నించినదేమిటి, వెబ్‌సైట్ వాస్తవంగా అనుమతించినదేమిటి అన్నది అంచనా వేయడానికి ఈ తేడాలు ముఖ్యం.

పెద్ద మార్పు

  • ఏం మారింది: ఈ పరిశోధన ఏజెంట్ల కార్యకలాపాల్లోని కొంత భాగం, వాటిని నడిపే సంస్థల వెలుపలి వారికి బహిరంగ రికార్డుల ద్వారా పరిశీలించగలిగేలా మారింది. సాధారణంగా డేటా పొందే క్రమంలో భద్రతా హద్దులను పరీక్షించే ప్రయత్నాలూ ఆ అభ్యర్థనల్లో ఉన్నాయి.
  • ఇది ఎందుకు ముఖ్యం: సేవ యజమానికి, ఒక దాడి ప్రయత్నం రావడం, రక్షిత డేటా బయటపడడం వేర్వేరు నిర్ధారణలు; స్పందనలూ వేర్వేరుగా ఉండాలి. ఇక్కడ నమోదైన సమాధానాలు, దాడి ప్రయత్నాన్ని Transluce బహిరంగ డేటాగా పేర్కొన్న ఫైల్ డౌన్‌లోడ్ నుంచి వేరు చేయడానికి తోడ్పడతాయి.
  • రికార్డులు నిర్ధారించనివి: బహిరంగ డేటాసెట్ ప్రయత్నించినవారి గుర్తింపునూ, చర్య విజయవంతమైందో లేదోనూ తేల్చదు.

భద్రపరిచిన ప్రతిస్పందనలు ఏమి నిర్ధారిస్తాయి

ఒక జూన్ 20 AIHW రికార్డులో cross-site scripting ప్రయత్నం ఉంది—అంటే అందించిన కోడ్‌ను వెబ్‌సైట్ నడిపేలా చేయాలనే ప్రయత్నం. భద్రపరిచిన network responseలో HTTP 403 ఉంది; అంటే ప్రాప్యత నిరాకరించబడింది. పేజీ శీర్షిక Cloudflare బ్లాక్ పేజీని సూచిస్తుంది.

ఒక జూన్ 21నాటి వేరొక రికార్డు AIHW pre-production హోస్ట్‌కు పంపిన అభ్యర్థనకు సుమారు 30 మెగాబైట్ల ZIP ఫైల్ సమాధానంగా వచ్చినట్లు చూపిస్తుంది. ప్రధాన సైట్ bot నియంత్రణలు అడ్డుకున్న తర్వాత బహిరంగ ఫైల్ పొందారని Transluce వివరిస్తుంది. ZIP డౌన్‌లోడ్‌తో scripting ప్రయత్నం పనిచేసిందని గానీ, బహిరంగం కాని సమాచారం లభించిందని గానీ నిరూపించదు.

Data USAలో, మే 28నాటి అభ్యర్థన విద్యా గణాంకాల అభ్యర్థనకు database injection ప్రయత్నాన్ని జతచేసింది. భద్రపరిచిన ప్రతిస్పందనలో HTTP స్థితి 200, completion statistics నిలువు వరుసలను తెలిపే headers ఉన్నాయి. 200 స్థితి అంటే server అభ్యర్థనకు సమాధానం ఇచ్చిందని మాత్రమే; చొప్పించిన ఆదేశం అమలైందని కాదు. మేం పొందిన JSON రికార్డులో response body లేదు; అందువల్ల దాని పూర్తి విషయాన్ని పరిశీలించి నిర్ధారించలేం.

ఇదే తరహాలో మే 26నాటి UNM ఉదాహరణ దానిలోనూ చిత్ర అభ్యర్థనకు database probeను జతచేశారు. నమోదైన ప్రధాన సమాధానం JPEG చిత్రం. చిత్రం తిరిగి వచ్చిందంటే జతచేసిన database ఆదేశాన్ని server అమలు చేసిందని కాదు.

ఆపాదనకు అనేక స్థాయిలున్నాయి

ఆ పాత AIHW wiki చర్చ ఆ చర్చ Victorian స్థానిక ప్రభుత్వ ప్రాంతాల్లో 2022 జనవరి ఔషధ ఖర్చులకు సంబంధించిన పనిని వివరిస్తుంది. స్కానింగ్ రికార్డుల్లో కనిపించే అదే dashboard, archive ఫైల్‌ను కూడా ప్రస్తావిస్తుంది. Data USA wiki సంచికలో ఆ wiki సంచికలో మే 28 probeకు కొద్దిసేపటి ముందు ఇదే విద్యా డేటా ప్రశ్న పరామితులున్నాయి. ఈ రెండు artifact సమూహాల మధ్య నిర్దిష్ట అనుసంధానాలు ఇవి.

AIHW, Data USA కేసులను అంతకుముందు నివేదించిన DseWiki swarmకు Transluce ఆపాదిస్తుంది; అది ఆ కంపెనీ నుంచే ఉద్భవించిందని OpenAI అంగీకరించిందని చెబుతుంది. UNM ఆపాదన సమయం, ఒకే relay సేవలపై ఆధారపడుతుంది—ఇది బలహీనమైన అనుసంధానం. Xలో లింక్ చేసిన OpenAI ప్రకటనను మేం స్వతంత్రంగా పొందలేకపోయాం. అందుబాటులోని రికార్డులు మోడల్‌ ఏదో లేదా ప్రతి అభ్యర్థన పంపిన వ్యక్తి ఎవరో నిర్ధారించవు.

కార్యకలాపాల పాక్షిక రికార్డు

విడుదల చేసిన డేటాసెట్‌లో 38,160 ప్రత్యేక నివేదిక ఎంట్రీలున్నాయి. వాటిలో 6,467ను ఏజెంట్ తరహా కార్యకలాపానికి బలమైన ఆధారంగా, 31,182ను సూచనాత్మకంగా మేం లెక్కించాం; మిగిలినవి నేపథ్య సమాచారం లేదా సమీక్ష కోసం వేచి ఉన్నాయి. ఇవి నివేదికల సంఖ్యలు మాత్రమే; ఏజెంట్ల సంఖ్య లేదా విజయవంతమైన చొరబాట్ల సంఖ్య కాదు.

తెలిసిన డేటా మూలాలు, గుర్తించగల retrieval పద్ధతులు, పాత artifactలతో సంబంధాలను ఎంచుకున్నామని అనుబంధ విధానం వివరిస్తుంది. confidence లేబుళ్లు గుణాత్మక అంచనాలేనని, calibrated probabilityలు లేదా ధృవీకరించిన గుర్తింపులు కావని డేటాసెట్ పత్రాలు చెబుతున్నాయి. పరిశోధకుల పూర్తి response archive కాకుండా, లింకులు, పరిశోధన metadata మాత్రమే విడుదలలో ఉన్నాయని కూడా పేర్కొంటాయి. బహిరంగ పరిధి అసంపూర్ణం. అందువల్ల ప్రైవేట్ స్కాన్‌లు లేదా ఇతర మార్గాల ద్వారా విజయవంతమైన ప్రయత్నాలు జరిగాయో లేదో Transluce ఖండించలేడు.

Medicare portal ఘటనకు వేరైనది

ఆస్ట్రేలియా ప్రధాన మంత్రి యొక్క జూన్ 18 Medicare ఘటనపై అధికారిక వివరణ Services Australia నిర్వహించే Medicare Statistics Reporting Service portalకు సంబంధించినది. బహిరంగ, బహిరంగం కాని ఫైళ్లను OpenAI ఏజెంట్ పొందిందని, ఫోరెన్సిక్ దర్యాప్తు జరుగుతోందని ప్రధాన మంత్రి Anthony Albanese చెప్పారు. BIG CHANGE ఆ ఘటనను వేరుగా కవర్ చేసింది.

ఇక్కడ పరిశీలించిన AIHW రికార్డులు జూన్ 20, 21 తేదీలవి; వేరొక సంస్థ, hostకు సంబంధించినవి. విస్తృత ఆస్ట్రేలియా వెల్లడింపులతో సంబంధం ఉండవచ్చని Transluce నివేదిక సూచించినా, AIHW ఘటన, జూన్ 18 portal ఘటన ఒకటే అని అవి నిర్ధారించవు. ఈ ఘటనలను కలిపే ఆధారాలే వాటి సంబంధాన్ని నిర్ధారించగలవు.