ਆਕਲੈਂਡ (NZ Punjabi News) – Nvidia ਨੇ ਇੱਕ ਨਵਾਂ ਸੁਰੱਖਿਆ ਪਲੇਟਫਾਰਮ ਪੇਸ਼ ਕੀਤਾ ਹੈ, ਜਿਸ ਬਾਰੇ ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਆਰਟੀਫਿਸ਼ਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਏਜੰਟਾਂ ਨੂੰ ਬੇਕਾਬੂ ਹੋ ਕੇ ਕੰਮ ਕਰਨ ਤੋਂ ਰੋਕ ਸਕਦਾ ਹੈ।
ਕੰਪਨੀ ਮੁਤਾਬਕ Open Agent Safety Platform ਵਿੱਚ ਓਪਨ-ਸੋਰਸ ਸਾਫਟਵੇਅਰ ਸ਼ਾਮਲ ਹੈ, ਜੋ AI ਏਜੰਟਾਂ ਲਈ ਉਨ੍ਹਾਂ ਦੀਆਂ ਕਾਰਵਾਈਆਂ ਦੀਆਂ ਹੱਦਾਂ ਤੈਅ ਕਰਦਾ ਹੈ। ਇਹ ਪਲੇਟਫਾਰਮ ਅਜਿਹੇ ਸਮੇਂ ਲਾਂਚ ਕੀਤਾ ਗਿਆ ਹੈ ਜਦੋਂ ਵੱਡੀਆਂ AI ਕੰਪਨੀਆਂ ਦੇ ਮਾਡਲਾਂ ਦੇ ਆਪਣੇ ਆਪ ਦੂਜੀਆਂ ਸੰਸਥਾਵਾਂ ਵਿੱਚ ਦਾਖਲ ਹੋਣ ਅਤੇ ਸਿਸਟਮਾਂ ਨੂੰ ਹੈਕ ਕਰਨ ਸਬੰਧੀ ਕਈ ਮਾਮਲੇ ਸਾਹਮਣੇ ਆਏ ਹਨ।
ਇਨ੍ਹਾਂ ਘਟਨਾਵਾਂ ਤੋਂ ਬਾਅਦ ਐਡਵਾਂਸਡ AI ਸਿਸਟਮਾਂ ਦੀ ਸੁਰੱਖਿਆ ਨੂੰ ਲੈ ਕੇ ਚਰਚਾ ਤੇਜ਼ ਹੋਈ ਹੈ। ਕੁਝ ਮਾਹਿਰਾਂ ਨੇ ਅਜਿਹੇ ਸੈਲਫ-ਇੰਪਰੂਵਿੰਗ ਮਾਡਲਾਂ ਬਾਰੇ ਚਿੰਤਾ ਜ਼ਾਹਰ ਕੀਤੀ ਹੈ, ਜੋ ਮਨੁੱਖੀ ਕੰਟਰੋਲ ਤੋਂ ਬਾਹਰ ਜਾਣ ਦਾ ਖਤਰਾ ਪੈਦਾ ਕਰ ਸਕਦੇ ਹਨ।
Nvidia ਦੇ ਅਧਿਕਾਰੀਆਂ ਨੇ ਮੀਡੀਆ ਬ੍ਰੀਫਿੰਗ ਦੌਰਾਨ ਕਿਹਾ ਕਿ ਨਵਾਂ ਸਿਸਟਮ OpenAI ਦੇ AI ਏਜੰਟਾਂ ਵੱਲੋਂ AI ਕੰਪਨੀ Hugging Face ਵਿੱਚ ਕੀਤੀ ਗਈ ਇੱਕ ਹਾਲੀਆ ਹੈਕਿੰਗ ਘਟਨਾ ਨੂੰ ਰੋਕ ਸਕਦਾ ਸੀ।
Nvidia ਦੇ Enterprise AI ਦੇ ਵਾਈਸ ਪ੍ਰੈਜ਼ੀਡੈਂਟ Justin Boitano ਨੇ ਕਿਹਾ ਕਿ ਉਨ੍ਹਾਂ ਦੀ ਜਾਣਕਾਰੀ ਮੁਤਾਬਕ ਜੇਕਰ ਇਹ ਸੁਰੱਖਿਆ ਪਲੇਟਫਾਰਮ ਮਾਡਲਾਂ ਦੀ ਸ਼ੁਰੂਆਤੀ ਜਾਂਚ ਦੌਰਾਨ ਵਰਤਿਆ ਜਾ ਰਿਹਾ ਹੁੰਦਾ ਤਾਂ ਇਹ ਬ੍ਰੀਚ ਨੂੰ ਰੋਕ ਸਕਦਾ ਸੀ।
Hugging Face ਨਾਲ ਜੁੜੀ ਘਟਨਾ ਨੇ AI ਸੁਰੱਖਿਆ ਬਾਰੇ ਚਿੰਤਾਵਾਂ ਨੂੰ ਹੋਰ ਵਧਾ ਦਿੱਤਾ। ਇਸ ਤੋਂ ਬਾਅਦ OpenAI ਦੇ ਮਾਡਲਾਂ ਨਾਲ ਜੁੜੀਆਂ ਹੋਰ ਘਟਨਾਵਾਂ ਵੀ ਸਾਹਮਣੇ ਆਈਆਂ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਇੱਕ ਆਸਟ੍ਰੇਲੀਆਈ ਸਿਹਤ ਵਿਭਾਗ ਦੀ ਵੈੱਬਸਾਈਟ ਵਿੱਚ ਦਾਖਲ ਹੋਣ ਦੀ ਘਟਨਾ ਵੀ ਸ਼ਾਮਲ ਸੀ। Anthropic ਅਤੇ Meta ਨੇ ਵੀ ਦੱਸਿਆ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਦੇ AI ਸਿਸਟਮਾਂ ਨੇ ਆਪਣੇ ਆਪ ਹੋਰ ਸੰਸਥਾਵਾਂ ਦੇ ਸਿਸਟਮਾਂ ਨੂੰ ਹੈਕ ਕੀਤਾ।
Nvidia ਦਾ OpenShell ਨਾਮਕ ਸਾਫਟਵੇਅਰ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਇਹ ਜਾਂਚਣ ਦੀ ਸਹੂਲਤ ਦਿੰਦਾ ਹੈ ਕਿ ਕੋਈ AI ਏਜੰਟ ਆਪਣੇ ਕੰਮ ਲਈ ਲੋੜੀਂਦੀ ਇਜਾਜ਼ਤ ਤੋਂ ਵੱਧ ਅਧਿਕਾਰ ਤਾਂ ਨਹੀਂ ਵਰਤ ਰਿਹਾ।
ਕਿਉਂਕਿ ਇਹ ਓਪਨ-ਸੋਰਸ ਹੈ, ਇਸ ਨੂੰ Arm ਅਤੇ Intel ਸਮੇਤ ਹੋਰ ਕੰਪਨੀਆਂ ਦੇ ਕੰਪਿਊਟਿੰਗ ਪਲੇਟਫਾਰਮਾਂ ’ਤੇ ਵੀ ਵਰਤਣ ਲਈ ਵਧਾਇਆ ਜਾ ਸਕਦਾ ਹੈ।
ਪਲੇਟਫਾਰਮ ਵਿੱਚ Sentry ਨਾਮ ਦੀ ਇੱਕ ਵੱਖਰੀ ਸੁਰੱਖਿਆ ਪਰਤ ਵੀ ਹੈ, ਜੋ ਚਿੱਪ ’ਤੇ ਕੰਮ ਕਰਦੀ ਹੈ ਅਤੇ AI ਏਜੰਟ ਦੀਆਂ ਗਤੀਵਿਧੀਆਂ ਦੀ ਲਗਾਤਾਰ ਨਿਗਰਾਨੀ ਕਰਦੀ ਹੈ। ਜੇਕਰ ਏਜੰਟ ਆਪਣੀ ਨਿਰਧਾਰਤ ਹੱਦ ਤੋਂ ਬਾਹਰ ਜਾਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦਾ ਹੈ ਤਾਂ ਇਹ ਸਿਸਟਮ ਤੁਰੰਤ ਦਖਲ ਦੇ ਸਕਦਾ ਹੈ।
Boitano ਮੁਤਾਬਕ Sentry ਕਿਸੇ ਸ਼ੱਕੀ AI ਏਜੰਟ ਨੂੰ ਕੁਝ ਮਿਲੀਸਕਿੰਟਾਂ ਵਿੱਚ ਅਲੱਗ ਕਰ ਸਕਦਾ ਹੈ।
ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ OpenShell AI ਏਜੰਟ ਦੀਆਂ ਕਾਰਵਾਈਆਂ ਨੂੰ ਨਿਯੰਤਰਿਤ ਕਰਦਾ ਹੈ, ਜਦਕਿ Sentry ਸੁਤੰਤਰ ਤੌਰ ’ਤੇ ਸ਼ੱਕੀ ਗਤੀਵਿਧੀਆਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਕੇ ਉਨ੍ਹਾਂ ਨੂੰ ਰੋਕਦਾ ਹੈ।
Nvidia ਨੇ ਕਿਹਾ ਕਿ ਪਲੇਟਫਾਰਮ ਲਾਂਚ ਹੋਣ ਸਮੇਂ ਹੀ 100 ਤੋਂ ਵੱਧ ਸੰਸਥਾਵਾਂ ਇਸ ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੀਆਂ ਹਨ। ਇਨ੍ਹਾਂ ਵਿੱਚ Microsoft, Perplexity, Accenture ਅਤੇ JPMorgan Chase ਸ਼ਾਮਲ ਹਨ।
AI ਸੁਰੱਖਿਆ ਨੂੰ ਲੈ ਕੇ ਤਕਨਾਲੋਜੀ ਉਦਯੋਗ ਵਿੱਚ ਵੱਖ-ਵੱਖ ਵਿਚਾਰ ਹਨ। Anthropic ਅਤੇ OpenAI ਦੇ ਮੁਖੀਆਂ ਨੇ AI ਵਿਕਾਸ ਨੂੰ ਕੁਝ ਸਮੇਂ ਲਈ ਹੌਲਾ ਕਰਨ ਦੀ ਵਕਾਲਤ ਕੀਤੀ ਹੈ ਤਾਂ ਜੋ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧਾਂ ਨੂੰ ਵਿਕਸਤ ਕਰਨ ਲਈ ਸਮਾਂ ਮਿਲ ਸਕੇ।
ਦੂਜੇ ਪਾਸੇ Nvidia ਦੇ CEO Jensen Huang ਨੇ ਕਿਹਾ ਹੈ ਕਿ AI ਦੀ ਸੁਰੱਖਿਆ ਯਕੀਨੀ ਬਣਾਉਣਾ ਹਰੇਕ ਕੰਪਨੀ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ।
ਇਸ ਮਹੀਨੇ ਹੋਈ Salesforce ਦੀ ਸਾਲਾਨਾ ਟੈਕਨਾਲੋਜੀ ਕਾਨਫਰੰਸ ਦੌਰਾਨ Huang ਨੇ AI ਸੁਰੱਖਿਆ ਅਤੇ ਬੇਕਾਬੂ AI ਏਜੰਟਾਂ ਦੇ ਖਤਰੇ ਨੂੰ ਇੱਕ ਇੰਜੀਨੀਅਰਿੰਗ ਸਮੱਸਿਆ ਵਜੋਂ ਦਰਸਾਇਆ, ਜਿਸ ਨੂੰ ਸਾਫਟਵੇਅਰ ਡਿਵੈਲਪਰ ਹੱਲ ਕਰ ਸਕਦੇ ਹਨ।
ਇਸ ਤੋਂ ਇਲਾਵਾ ਸੋਮਵਾਰ ਨੂੰ Nvidia ਨੇ ਦੱਸਿਆ ਕਿ ਉਸ ਦੇ ਬੋਰਡ ਨੇ ਸ਼ੇਅਰ ਬਾਇਬੈਕ ਪ੍ਰੋਗਰਾਮ ਵਿੱਚ US$150 ਬਿਲੀਅਨ (ਲਗਭਗ NZ$264 ਬਿਲੀਅਨ) ਦਾ ਵਾਧਾ ਮਨਜ਼ੂਰ ਕੀਤਾ ਹੈ। ਇਸ ਨਾਲ ਕੰਪਨੀ ਦੇ ਕੁੱਲ ਸ਼ੇਅਰ ਰੀਪਰਚੇਜ਼ ਪ੍ਰੋਗਰਾਮ ਦੀ ਰਕਮ US$235 ਬਿਲੀਅਨ (ਲਗਭਗ NZ$414.6 ਬਿਲੀਅਨ) ਹੋ ਗਈ ਹੈ।