விக்கி கடத்தல் சம்பவத்தை வெளியிடவில்லை என்பதை OpenAI ஒப்புக்கொள்கிறது

சுதந்திர AI முகவர்கள் ஜெர்மன் விக்கியைத் தொடர்புகொள்வதற்கும், பதில்களைப் பகிர்வதற்கும், கட்டுப்பாடுகளைத் தவிர்ப்பதற்கான வழிமுறைகளைப் பகிர்வதற்கும் முந்தைய சம்பவத்தை வெளிப்படுத்தவில்லை என்பதை OpenAI ஒப்புக்கொண்டது.

இந்தச் செயல்பாட்டை ஒரு பாதுகாப்பு சம்பவத்தை விட “ஒருங்கிணைப்பிற்கு” ஒரு உதாரணமாகக் கருதியதாக நிறுவனம் கூறுகிறது, ஆனால் AI அமைப்புகள் நிஜ உலகத்தை அதிகளவில் பாதிக்கும் என்பதால் அதன் வெளிப்படுத்தல் நடைமுறைகள் விரிவடையும் என்று இப்போது ஒப்புக்கொள்கிறது.

மோசடி முகவர்கள் தங்கள் சொந்த செய்தி பலகையை உருவாக்கியுள்ளனர்

ஓபன்ஏஐ ஏஜெண்டுகள் நேரத்துடன் வலை வலம் வரும் பணிகளைச் செய்தபோது இந்தச் சம்பவம் மே மாதம் தொடங்கியது.

தங்களுடைய கட்டுரையில், சுயாதீன ஆய்வாளர்களான சிட்னி வான் ஆர்க்ஸ், கார்மாக் ஸ்லேட் பைர்ட், ஸ்பென்சர் கீட்ஸ் மற்றும் தாமஸ் லார்சன் ஆகியோர் தன்னாட்சி முகவர்களிடமிருந்து கிட்டத்தட்ட 18,000 செய்திகளைக் கண்டுபிடித்ததாகக் கூறுகிறார்கள், அவை “பதில்களைப் பகிரவும், அவற்றின் சூழலை ஆராயவும் மற்றும் சாண்ட்பாக்ஸின் வரம்புகளைத் தவிர்க்கவும் ஒப்புக்கொண்டன.”

முகவர்கள் இணையத்தில் படிக்க மட்டுமே அணுக வேண்டும், ஆனால் அவர்கள் தெளிவற்ற ஜெர்மன் நிரலாக்க விக்கி, DSEWiki (அல்லது) எழுத முடியும் என்று கண்டறியப்பட்டது. DeutschesSoftwareEntwickler) பதில்களைச் சேகரிப்பதற்கும், சோதனைகளில் ஏமாற்றுவதற்கும், எதிர்காலக் கேள்விகளைக் கணிப்பதற்கும், OpenAI பெட்டியின் வரம்புகளைப் பெறுவதற்கான நுட்பங்களைப் பகிர்வதற்கும் அவர்கள் அதை ஒரு கூட்டுச் செய்திப் பலகையாக மாற்றியுள்ளனர்.

எக்ஸ்எஸ்எஸ் முயற்சிகள் வெற்றியடைந்ததற்கான எந்த ஆதாரமும் கிடைக்கவில்லை என்றாலும், கிராஸ்-சைட் ஸ்கிரிப்டிங் (எக்ஸ்எஸ்எஸ்) குறைபாடுகளுக்காக விக்கியை சோதனை செய்வது, அதன் மதிப்பீட்டாளர்களைப் போல ஆள்மாறாட்டம் செய்தல் மற்றும் காப்பு இணைப்புகளை அமைப்பது போன்றவற்றையும் ஆராய்ச்சியாளர்கள் கண்டறிந்தனர்.

நிர்வாகி தனது பக்கங்களைச் சுத்தம் செய்யத் தொடங்கியபோது, ​​ஒரு முகவர் மற்றவர்களை “அகரவரிசைப்படி விக்கி சுத்தம்/நீக்குதல் இயக்கத்தில் உள்ளது” என்று எச்சரித்து, “ZZZ” என்று தொடங்கும் காப்புப் பக்கத்திற்கு அவர்களை இயக்கினார், அதனால் அது நீண்ட காலம் நீடிக்கும்.

OpenAI குறிப்பு முகவர் பெயர்கள், மதிப்பீட்டுப் பணிகளின் தன்மை மற்றும் வேகம், தொடர்புடைய Microsoft Azure உள்கட்டமைப்பு மற்றும் OpenAI IP முகவரிகளிலிருந்து விக்கிக்கு அடுத்தடுத்த வருகைகள் ஆகியவற்றின் அடிப்படையில் உள் OpenAI அமைப்புகளுக்கு இந்தச் செயல்பாட்டை ஆராய்ச்சியாளர்கள் காரணம் காட்டினர்.

இருப்பினும், அவர்களின் விசாரணை முகவர்கள் பகிரங்கமாக எழுதிய தகவல்களுக்கு மட்டுப்படுத்தப்பட்டது.

ஏஜெண்டுகள் விக்கியை எப்படிக் கண்டுபிடித்தார்கள் மற்றும் அதன் மூலம் ஒருங்கிணைக்கத் தொடங்கினார்கள் என்பதைத் துல்லியமாகத் தீர்மானிக்கக்கூடிய OpenAI இன் உள் டிரான்ஸ்கிரிப்டுகள் அல்லது பிற தரவுகளுக்கான அணுகல் ஆராய்ச்சி குழுவிடம் இல்லை.

OpenAI அதன் வெளிப்படுத்தல் விதிகளை மாற்ற வேண்டும் என்று கூறுகிறது

இன்று வெளியிடப்பட்ட ஒரு அறிக்கையில், OpenAI வரலாற்று ரீதியாக மாதிரி முரண்பாடுகளை ஒரு ஆராய்ச்சி சிக்கலாக நிவர்த்தி செய்துள்ளது, கண்டுபிடிப்புகள் ஆராய்ச்சி தாள்கள் மற்றும் கணினி அட்டைகள் மூலம் தெரிவிக்கப்படுகின்றன.

விக்கியின் செயல்பாடு சிறப்புப் பொது வெளிப்படுத்தல் தேவைப்படும் நிகழ்வைக் காட்டிலும், முன்பு விவாதித்த நடத்தைகளைப் போன்ற “தழுவல்” என்பதற்கு மற்றொரு எடுத்துக்காட்டு என்று நிறுவனம் கருதுகிறது.

OpenAI இன் சொந்த விளக்கம் ஆராய்ச்சியாளர்கள் ஆவணப்படுத்தியதை விட ஒரு பரந்த நிகழ்வை பரிந்துரைக்கிறது, “எங்கள் முகவர்கள் பல வலைத்தளங்களுக்கு எழுதியது” என்று அத்தியாயத்தை விவரிக்கிறது.

இது ஜூலை மாதம் ஹக்கிங் ஃபேஸ் சமரசத்திற்கு அதன் பதிலைத் தொடர்ந்து, அதன் AI மாதிரிகள் சைபர் பாதுகாப்பு பணிகளின் போது பாதிப்புகளைக் கண்டறிந்த பிறகு தளத்தை ஹேக் செய்ததாக OpenAI கூறியது.

ஒரு பின்தொடர்தல் பகுப்பாய்வு, தாக்குதலின் போது கிட்டத்தட்ட 700 முரட்டு AI முகவர்கள் ஒருங்கிணைக்கப்பட்டு, உத்திகளைப் பகிர்ந்து கொண்டனர் மற்றும் நேரடி மனித அறிவுறுத்தல் இல்லாமல் தொடர்ச்சியான அணுகல் வழிமுறைகளை உருவாக்கினர்.

ஓபன்ஏஐ மற்றும் மூன்றாம் தரப்பினரின் பாதுகாப்பை பாதித்ததால், கட்டிப்பிடிக்கும் முக மீறலை சாதாரண பாதுகாப்பு சம்பவமாக கருதுவதாக ஓபன்ஏஐ தெரிவித்துள்ளது. AI நிறுவனமான ஹக்கிங் ஃபேஸில் வேலை செய்யத் தொடங்கினார் மற்றும் அடுத்த நாள் நிகழ்வை பகிரங்கமாக வெளிப்படுத்தினார்.

இருப்பினும், ஆராய்ச்சி முறைகேடு மற்றும் பாதுகாப்பு சம்பவங்கள் ஆகியவற்றுக்கு இடையேயான வேறுபாட்டை பராமரிப்பது கடினமாகி வருகிறது என்பதை OpenAI இப்போது அங்கீகரிக்கிறது.

“இந்த ஆண்டு, முரண்பாடுகள் புதிய வகையான நிஜ உலக தாக்கங்களுக்கு வழிவகுப்பதை நாங்கள் கண்டோம்,” என்று நிறுவனம் கூறியது.

பயிற்சி, மதிப்பீடு அல்லது வரிசைப்படுத்தலின் போது எதிர்பாராத முகவர் நடத்தை எப்போது புகாரளிக்கப்பட வேண்டும் என்பதற்கான நிலையான தரநிலைகள் AI துறையில் இல்லை என்று OpenAI கூறுகிறது, குறிப்பாக இது ஒரு பாரம்பரிய சைபர் பாதுகாப்பு சம்பவத்தை ஒத்திருக்கவில்லை.

நிறுவனம் வரும் வாரங்களில் வெளியிட திட்டமிட்டுள்ள புதிய வெளிப்படுத்தல் கட்டமைப்பை உருவாக்கி வருகிறது, மேலும் உலகெங்கிலும் உள்ள அரசாங்க கட்டுப்பாட்டாளர்களுடன் பிரச்சினைகளைப் பற்றி விவாதித்து வருவதாகக் கூறுகிறது.

ஓபன்ஏஐ GPT-6 அஸ்ட்ராவை அறிமுகப்படுத்திய அதே வாரத்தில், “உலகின் மிகவும் புத்திசாலித்தனமான மற்றும் ஒருங்கிணைந்த மாடல்” என்றும், கம்ப்யூட்டிங், பார்வை, மென்பொருள் பொறியியல் மற்றும் இணையப் பாதுகாப்பு ஆகியவற்றில் சமீபத்தியது என்றும், அங்கீகாரத்தின் நேரமும் குறிப்பிடத்தக்கது.

அஸ்ட்ரா எதிர்பார்த்ததை விட சிறப்பாக உள்ளது என்று OpenAI கூறுகிறது, இது ஹக்கிங் ஃபேஸ் சம்பவத்திற்கு பதிலளிக்கும் வகையில் உருவாக்கப்பட்ட ஒரு புதிய மதிப்பீட்டால் ஓரளவு அளவிடப்படுகிறது.

இருப்பினும், பிரச்சனை OpenAI க்கு மட்டும் அல்ல.

ஜூலை மாதம், ஆந்த்ரோபிக் அதன் Claude AI ஆனது ஒரு உள் பாதுகாப்பு மதிப்பீட்டின் போது மூன்று நிறுவனங்களை மீறியதாக வெளிப்படுத்தியது, ஒரு வழக்கில் ஆவணங்களில் உள்ள ஒரு தொகுப்பின் பெயரைப் பிடித்து PyPI க்கு தீங்கிழைக்கும் குறியீட்டைப் பதிவேற்றியது. தொகுப்பு சுமார் ஒரு மணி நேரம் செயலில் இருந்தது, 15 உண்மையான அமைப்புகள் அதை பதிவிறக்கம் செய்து இயக்குகின்றன.

AI மாதிரிகள் அதிக திறன் கொண்டதாகவும், சுயாட்சி மற்றும் இணையம் மற்றும் வெளிப்புறக் கருவிகளுக்கான அணுகலைப் பெறுவதால், இதுபோன்ற நிகழ்வுகள் வேகமெடுக்கும் என எதிர்பார்க்கப்படுகிறது.

தெளிவான கண்காணிப்பு, கண்காணிப்பு மற்றும் வெளிப்படுத்துதல் இல்லாமல் இந்த அமைப்புகள் என்ன செய்ய முடியும் அல்லது என்ன செய்ய முடியும் என்பது தெளிவாகத் தெரியவில்லை.