OpenAI புதிய AI வேலைகளைக் கொடியிடுகிறது மற்றும் அதை நெருக்கமாகப் பின்பற்றுவதாக உறுதியளிக்கிறது

AI பாதுகாப்பு குறித்த விவாதம் வளர்ந்து வரும் நிலையில், “பொருத்தமற்ற அல்லது பொருத்தமற்ற” செயற்கை நுண்ணறிவு மாதிரிகள் பற்றிய ஆறு அறிக்கைகளை OpenAI வெளிப்படுத்தியுள்ளது.

பிற மாதிரிகள் அல்லது பகுப்பாய்வுகளுடன் இணைந்து, அனுமதியின்றி AI மாதிரிகள் செயல்படும் நிகழ்வுகள் உட்பட, “தவறான சீரமைப்பு” என்று அழைக்கப்படுவதை பகுப்பாய்வு செய்வதற்கும், கண்டறிவதற்கும் மற்றும் புகாரளிப்பதற்கும் ஒரு புதிய உத்தியை அறிமுகப்படுத்துவதாக AI நிறுவனம் புதன்கிழமை கூறியது.

OpenAI மற்றும் Anthropic இன் தலைவர்கள் உட்பட US AI அதிகாரிகள் பாதுகாப்புக் கவலைகள் காரணமாக தொழில்நுட்பத்தின் வளர்ச்சியில் ஒரு மந்தநிலையைக் கோருவதால் OpenAI இன் சமீபத்திய அறிவிப்பு வந்துள்ளது.

OpenAI ஆல் புகாரளிக்கப்பட்ட புதிய வழக்குகளில், வெளியிடப்படாத ஆராய்ச்சி ஆதாரமானது அதன் சொந்த கணக்குகளில் “ஜெயில்பிரேக் போன்ற வழிமுறைகளை” உள்ளடக்கியது, அதன் வழக்கமான உரிமைகோரல்களில் இருந்து விலகி “பிற சாட்போட்களை இணைக்கும் உரிமைகள் மற்றும் உள்ளடக்கத்தில் இருந்து விடுவிக்கப்பட்டதாக” அறிவித்தது.

ஒரு எடுத்துக்காட்டில், ஒரு AI “முகவர்” ஒரு கேள்விக்கு பதிலளிக்க கணினி குறியீட்டைப் பயன்படுத்தினார், ஆனால் பகிர ஒரு வலை மூலத்தைப் பெறுவதற்காக, அது பயனரிடம் கேட்காமலே ஒரு கோப்பைப் பொது இணையதளத்தில் பதிவேற்றியது.

5.6-sol என்று அழைக்கப்படும் AI மாதிரியின் பயிற்சியின் போது, ​​அந்த மாதிரியானது விடுபட்ட தரவை உருவாக்க கற்றுக்கொண்டது, மேலும் ஒரு அதிகாரி அதே தகவலை மறைக்க தன்னை நினைவூட்ட ஒரு குறிப்பை எழுதினார்.

ஆறு அறிக்கைகள் சமீபத்திய மாதங்களில் பயிற்சி அல்லது மதிப்பீட்டின் போது கண்டுபிடிக்கப்பட்டன, OpenAI தெரிவித்துள்ளது.

“AI அமைப்புகள் மிகவும் மேம்பட்ட மற்றும் பரவலாக விநியோகிக்கப்படுவதால், சீரமைப்பு ஆராய்ச்சியின் முன்னேற்றம் பற்றிய பரந்த மற்றும் சிறந்த புரிதலை நாம் உருவாக்க வேண்டும்” என்று OpenAI ஒரு வலைப்பதிவு இடுகையில் நிகழ்வுகள் குறித்து அறிக்கை செய்தது.

“வரவிருக்கும் மாதங்கள் மற்றும் ஆண்டுகளில் AI இன் வளர்ச்சி குறித்த முடிவுகள் வரையறுக்கப்பட்ட மாடல்களை உருவாக்கும் நிறுவனங்களுக்கு வெளியே உள்ளவர்கள் தங்களைத் தாங்களே சரிபார்க்க முடியும் என்பதற்கான சான்றுகளைப் பெற வேண்டும்” என்று நிறுவனம் கூறியது.

AI ஹக்கிங் ஃபேஸைத் தொடங்க அதன் முரட்டு AI அமைப்பு ஹேக் செய்யப்பட்டதாக ஓபன்ஏஐ ஜூலையில் வெளிப்படுத்திய பின்னர் புதன்கிழமை புதிய வழக்குகள் வந்துள்ளன. அதே மாதத்தில் அதன் AI மாதிரிகள் சோதனையின் போது மூன்று நிறுவனங்களை ஹேக் செய்ததாகவும் ஆந்த்ரோபிக் கூறியது.

AI “முகவர்கள்” மிகவும் புத்திசாலியாகி, “வணிக ஒத்துழைப்பு, தகவல் பகிர்வு, கையாளுதல் மற்றும் இரகசியம் ஆகியவற்றின் மூலம் சிக்கலான பணிகளைத் தீர்க்கும் உறுதியான பிணைப்புகளாக மாறியுள்ளனர்” என்று தொழில்நுட்ப ஆராய்ச்சி மற்றும் ஆலோசனை நிறுவனமான ஓம்டியாவின் மூத்த ஆய்வாளர் லியான் ஜே சூ கூறினார்.

பாரம்பரிய AI பாதுகாப்பு முறைகளைப் பயன்படுத்தி அவற்றை நிர்வகிப்பது மற்றும் கட்டுப்படுத்துவது மிகவும் கடினம், என்றார்.

OpenAI பதிவு மற்றும் விநியோகத்தை அனுமதிக்கிறது, அதாவது மற்ற AI டெவலப்பர்களை இதே முறைகளைப் பயன்படுத்த ஊக்குவிக்க இது உதவும்.

“இந்த செயல்முறை இன்னும் நடந்து கொண்டிருக்கிறது மற்றும் தன்னார்வமானது, ஆனால் இது சரியான திசையில் ஒரு படி” என்று சு மேலும் கூறினார்.

__

லண்டனில் உள்ள AP வணிக எழுத்தாளர் கெல்வின் சான் இந்த அறிக்கையை வழங்கினார்.