ਭਾਈਚਾਰਕ ਸੁਰੱਖਿਆ ਰਿਪੋਰਟ ਅਤੇ ਕਿਸ਼ੋਰਾਂ ਲਈ ਨਵੀਆਂ ਸੁਰੱਖਿਆਵਾਂ

ChatGPT ਦੁਨੀਆ ਦੇ ਸਭ ਤੋਂ ਵੱਧ ਵਰਤੇ ਜਾਣ ਵਾਲੇ AI ਉਤਪਾਦਾਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ, ਅਤੇ ਅਸੀਂ ਸੰਭਾਵੀ ਨੁਕਸਾਨ ਦੀ ਪਛਾਣ ਕਰਨ, ਚਿੰਤਾਜਨਕ ਗਤੀਵਿਧੀਆਂ ਦੀ ਸਮੀਖਿਆ ਕਰਨ ਅਤੇ ਗੰਭੀਰ ਖਤਰਿਆਂ ਬਾਰੇ ਰਿਪੋਰਟ ਕਰਨ ਲਈ ਇੰਡਸਟਰੀ ਦੇ ਕੁਝ ਸਭ ਤੋਂ ਉੱਨਤ ਸਿਸਟਮ ਬਣਾਉਣ ਵਿੱਚ ਨਿਵੇਸ਼ ਕੀਤਾ ਹੈ। ਅਸੀਂ ਇਸ ਖੇਤਰ ਵਿੱਚ ਆਪਣੇ ਕੰਮ ਨੂੰ ਅੱਗੇ ਵਧਾਉਣ ਲਈ ਦੋ ਨਵੇਂ ਐਲਾਨ ਕਰ ਰਹੇ ਹਾਂ: ਇੱਕ ਨਵੀਂ ਭਾਈਚਾਰਕ ਸੁਰੱਖਿਆ ਰਿਪੋਰਟ ਅਤੇ ਨਾਬਾਲਗਾਂ ਲਈ ਹਥਿਆਰਾਂ ਨਾਲ ਸੰਬੰਧਿਤ ਸਮੱਗਰੀ 'ਤੇ ਹੋਰ ਪਾਬੰਦੀਆਂ।

ਭਾਈਚਾਰਿਆਂ ਨੂੰ ਸੁਰੱਖਿਅਤ ਰੱਖਣਾ⁠ OpenAI ਲਈ ਹਮੇਸ਼ਾਂ ਵਾਂਗ ਸਭ ਤੋਂ ਵੱਡੀ ਤਰਜੀਹ ਹੈ। ਸਾਡੇ ਕੰਮ ਵਿੱਚ ਹਿੰਸਾ ਦੇ ਸੰਭਾਵਿਤ ਖਤਰਿਆਂ ਨੂੰ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲੀਆਂ ਏਜੰਸੀਆਂ ਦੇ ਧਿਆਨ ਵਿੱਚ ਲਿਆਉਣਾ ਸ਼ਾਮਲ ਹੈ, ਅਤੇ ਅਸੀਂ 2026 ਦੀ ਤੀਜੀ ਤਿਮਾਹੀ ਵਿੱਚ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲੀਆਂ ਏਜੰਸੀਆਂ ਨੂੰ 200 ਤੋਂ ਵੱਧ ਰੈਫਰਲ ਭੇਜੇ ਹਨ। ਇਹ ਰੈਫਰਲ ਹਿੰਸਕ ਸਾਜ਼ਿਸ਼ਾਂ ਨੂੰ ਨਾਕਾਮ ਕਰਨ ਵਿੱਚ ਇੱਕ ਸਕਾਰਾਤਮਕ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਫ਼ਰਕ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਲਿਆ ਰਹੇ ਹਨ, ਅਤੇ ਅਸੀਂ ਮੁਸ਼ਕਲ ਮਾਮਲਿਆਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਮਾਨਸਿਕ ਸਿਹਤ ਅਤੇ ਵਿਵਹਾਰ ਸੰਬੰਧੀ ਮਾਹਰਾਂ 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ ਜਾਰੀ ਰੱਖਦੇ ਹਾਂ।

ਅਸੀਂ ਸਮਝਦੇ ਹਾਂ ਕਿ AI ਕੰਪਨੀਆਂ ਨੂੰ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲੀਆਂ ਏਜੰਸੀਆਂ, ਪਰਿਵਾਰਕ ਮੈਂਬਰਾਂ, ਮਾਨਸਿਕ-ਸਿਹਤ ਪੇਸ਼ੇਵਰਾਂ, ਅਤੇ ਨੀਤੀ ਨਿਰਮਾਤਾਵਾਂ ਦੇ ਨਾਲ ਮਿਲ ਕੇ ਇੱਕ ਅਹਿਮ ਭੂਮਿਕਾ ਨਿਭਾਉਣੀ ਪੈਂਦੀ ਹੈ, ਜਿਨ੍ਹਾਂ ਕੋਲ ਅਧਿਕਾਰ, ਸਹੀ ਜਾਣਕਾਰੀ ਅਤੇ ਅਸਲ-ਦੁਨੀਆ ਵਿੱਚ ਪਹੁੰਚ ਹੁੰਦੀ ਹੈ। ਅਸੀਂ ਆਪਣੇ ਸਿਸਟਮਾਂ ਨੂੰ ਲਗਾਤਾਰ ਮਜ਼ਬੂਤ ਕਰਕੇ, ਆਪਣੇ ਸਿੱਖੇ ਹੋਏ ਤਜ਼ਰਬਿਆਂ ਨੂੰ ਸਾਂਝਾ ਕਰਕੇ, ਅਤੇ ਉਹਨਾਂ ਲੋਕਾਂ ਨਾਲ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਕੰਮ ਕਰਕੇ ਇਸ ਭੂਮਿਕਾ ਨੂੰ ਬਿਹਤਰ ਢੰਗ ਨਾਲ ਨਿਭਾਉਣ ਲਈ ਵਚਨਬੱਧ ਹਾਂ, ਜੋ ਅਸਲ ਦੁਨੀਆ ਵਿੱਚ ਕਾਰਵਾਈ ਕਰਨ ਲਈ ਸਭ ਤੋਂ ਵਧੀਆ ਸਥਿਤੀ ਵਿੱਚ ਹਨ।

ਅਸੀਂ ਲੋਕਾਂ ਅਤੇ ਭਾਈਚਾਰਿਆਂ ਦੀ ਸੁਰੱਖਿਆ ਵਿੱਚ ਮਦਦ ਲਈ ਚੁੱਕੇ ਗਏ ਕਦਮਾਂ ਨੂੰ ਲਗਾਤਾਰ ਮਜ਼ਬੂਤ ਕਰ ਰਹੇ ਹਾਂ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ ਉਪਾਅ ਬਣਾਉਣ ਦੇ ਨਾਲ-ਨਾਲ ਇਸ ਬਾਰੇ ਵੀ ਪਾਰਦਰਸ਼ੀ ਹੋਣਾ ਕਿ ਉਹ ਕਿੰਨੀ ਚੰਗੀ ਤਰ੍ਹਾਂ ਕੰਮ ਕਰਦੇ ਹਨ ਅਤੇ ਅਸੀਂ ਉਹਨਾਂ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਕੀ ਕਰ ਰਹੇ ਹਾਂ। ਅਸੀਂ ਲੋਕਾਂ ਨੂੰ ਆਪਣੀ ਪਹੁੰਚ ਬਾਰੇ, ਸਾਡੇ ਮਾਡਲ ਨੁਕਸਾਨਦੇਹ ਵਿਵਹਾਰ ਦੀ ਪਛਾਣ ਕਿਵੇਂ ਕਰਦੇ ਹਨ ਅਤੇ ਕਿਵੇਂ ਪ੍ਰਤੀਕਿਰਿਆ ਕਰਦੇ ਹਨ, ਵਿਵਹਾਰਕ ਤੌਰ 'ਤੇ ਸਾਡੇ ਸਾਹਮਣੇ ਆਉਣ ਵਾਲੇ ਖਤਰਿਆਂ, ਅਤੇ ਉਹਨਾਂ ਨਾਲ ਨਜਿੱਠਣ ਲਈ ਸਾਡੇ ਵੱਲੋਂ ਚੁੱਕੇ ਗਏ ਕਦਮਾਂ ਬਾਰੇ ਸਪੱਸ਼ਟ ਜਾਣਕਾਰੀ ਦੇਣਾ ਚਾਹੁੰਦੇ ਹਾਂ।

ਅਸੀਂ ਹਿੰਸਾ ਦੀ ਰੋਕਥਾਮ ਅਤੇ ਭਾਈਚਾਰਕ ਸੁਰੱਖਿਆ ਨਾਲ ਜੁੜੇ ਹੋਰ ਮੁੱਦਿਆਂ ਦੇ ਨਾਲ-ਨਾਲ ਸਾਡੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਦੀ ਪ੍ਰਭਾਵਸ਼ੀਲਤਾ 'ਤੇ ਭਾਈਚਾਰਕ ਸੁਰੱਖਿਆ ਰਿਪੋਰਟ ਲਾਂਚ ਕਰਨ ਲਈ ਵਚਨਬੱਧ ਹਾਂ। ਇਹ ਰਿਪੋਰਟ ਦੱਸੇਗੀ ਕਿ ਅਸੀਂ ਆਪਣੇ ਸਿਸਟਮਾਂ ਨੂੰ ਭਾਈਚਾਰਕ ਸੁਰੱਖਿਆ ਮੁੱਦਿਆਂ ਦੀ ਪਛਾਣ ਕਰਨ, ਜਾਂਚ ਕਰਨ ਅਤੇ ਉਹਨਾਂ 'ਤੇ ਕਾਰਵਾਈ ਕਰਨ ਲਈ ਕਿਵੇਂ ਸਿਖਲਾਈ ਦਿੰਦੇ ਹਾਂ। ਅਸੀਂ ਇਸ ਗੱਲ ਦੀਆਂ ਗੁਮਨਾਮ ਉਦਾਹਰਣਾਂ ਸਾਂਝੀਆਂ ਕਰਾਂਗੇ ਕਿ ਕਿਵੇਂ ਹਿੰਸਾ ਨਾਲ ਜੁੜਿਆ ਨੁਕਸਾਨ ਸਾਹਮਣੇ ਆਉਂਦਾ ਹੈ ਅਤੇ ਅਸੀਂ ਕੀ ਸਿੱਖ ਰਹੇ ਹਾਂ। ਇਸ ਦੇ ਨਾਲ ਹੀ, ਨਵੇਂ ਬਚਾਅ ਉਪਾਵਾਂ ਅਤੇ ਨੀਤੀ ਵਿੱਚ ਬਦਲਾਵਾਂ ਨੂੰ ਉਜਾਗਰ ਕਰਾਂਗੇ, ਅਤੇ ਇਹਨਾਂ ਨਤੀਜਿਆਂ ਦਾ ਸਮਰਥਨ ਕਰਨ ਲਈ ਢੁਕਵਾਂ ਡਾਟਾ ਸ਼ਾਮਲ ਕਰਾਂਗੇ।

ਅਸੀਂ 2027 ਦੀ ਸ਼ੁਰੂਆਤ ਵਿੱਚ ਆਪਣੀ ਪਹਿਲੀ ਰਿਪੋਰਟ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਾਂਗੇ, ਜਿਸ ਵਿੱਚ 2026 ਦੇ ਦੂਜੇ ਅੱਧ (ਛਿਮਾਹੀ) ਨੂੰ ਸ਼ਾਮਲ ਕੀਤਾ ਜਾਵੇਗਾ, ਅਤੇ ਇਸ ਤੋਂ ਬਾਅਦ ਹਰ ਛੇ ਮਹੀਨਿਆਂ ਵਿੱਚ ਅੱਪਡੇਟ ਦਿੱਤੇ ਜਾਣਗੇ। ਸਾਡੀ ਵਚਨਬੱਧਤਾ ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਨੁਕਸਾਨਦੇਹ ਸਮੱਗਰੀ ਦੀ ਪਛਾਣ ਕਰਨ, ਉਸਦੀ ਸਮੀਖਿਆ ਕਰਨ ਅਤੇ ਉਸ 'ਤੇ ਕਾਰਵਾਈ ਕਰਨ ਬਾਰੇ ਸਾਰਥਕ ਨਤੀਜੇ ਸਾਂਝੇ ਕਰਨਾ ਹੈ।

ਸਾਡੇ ਮਾਡਲਾਂ ਨੂੰ ਇਹ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਹੈ ਕਿ ਉਹ ਕੋਈ ਅਜਿਹੀ ਹਿਦਾਇਤ ਨਾ ਦੇਣ ਜਿਸ ਨਾਲ ਕਿਸੇ ਨੂੰ ਹਿੰਸਾ ਦੀ ਯੋਜਨਾ ਬਣਾਉਣ ਜਾਂ ਉਸਨੂੰ ਅੰਜਾਮ ਦੇਣ ਵਿੱਚ ਮਦਦ ਮਿਲੇ। ਅਸੀਂ ਹੁਣ ਇਸ ਗੱਲ 'ਤੇ ਵਾਧੂ ਪਾਬੰਦੀਆਂ ਲਗਾ ਰਹੇ ਹਾਂ ਕਿ ChatGPT ਪਿਛਲੇ ਸਮੇਂ ਵਿੱਚ ਹੋਏ ਸਮੂਹਿਕ ਹਮਲਿਆਂ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਅੰਜਾਮ ਦੇਣ ਵਾਲੇ ਲੋਕਾਂ ਬਾਰੇ ਸਵਾਲਾਂ ਦਾ ਜਵਾਬ ਕਿਵੇਂ ਦਿੰਦਾ ਹੈ। ਅਸੀਂ ਮਾਡਲ ਨੂੰ ਇਹਨਾਂ ਖੇਤਰਾਂ ਵਿੱਚ ਘੱਟ ਵਿਸਤ੍ਰਿਤ ਜਾਣਕਾਰੀ ਦੇਣ ਲਈ ਨਿਰਦੇਸ਼ਿਤ ਕਰ ਰਹੇ ਹਾਂ, ਭਾਵੇਂ ਉਹ ਜਾਣਕਾਰੀ ਹੋਰ ਔਨਲਾਈਨ ਸਰੋਤਾਂ ਤੋਂ ਉਪਲਬਧ ਹੋਵੇ। ਲੋਕਾਂ ਨੂੰ ਇਹਨਾਂ ਘਟਨਾਵਾਂ ਨੂੰ ਸਮਝਣ, ਪੀੜਤਾਂ ਅਤੇ ਭਾਈਚਾਰਿਆਂ 'ਤੇ ਪਏ ਪ੍ਰਭਾਵਾਂ ਨੂੰ ਜਾਣਨ, ਅਤੇ ਚੇਤਾਵਨੀ ਦੇ ਸੰਕੇਤਾਂ ਦੀ ਪਛਾਣ ਕਰਕੇ ਭਵਿੱਖ ਦੀ ਹਿੰਸਾ ਨੂੰ ਰੋਕਣ ਬਾਰੇ ਸਿੱਖਣ ਲਈ ChatGPT ਦੀ ਮਦਦ ਲੈਣ ਦੇ ਯੋਗ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਪਰ ਅਸੀਂ ਪਿਛਲੇ ਸਮੂਹਿਕ ਹਮਲਿਆਂ ਨੂੰ ਮੁੜ ਤੋਂ ਬਿਆਨ ਕਰਨ 'ਤੇ ਪਾਬੰਦੀ ਲਗਾਉਣ ਲਈ ਆਪਣੀਆਂ ਨੀਤੀਆਂ ਨੂੰ ਸਖ਼ਤ ਕਰ ਰਹੇ ਹਾਂ। ਇਸ ਵਿੱਚ ਵਰਤੇ ਗਏ ਹਥਿਆਰਾਂ ਅਤੇ ਉਪਕਰਣਾਂ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਕਿਵੇਂ ਪ੍ਰਾਪਤ ਕੀਤਾ ਗਿਆ ਸੀ, ਬਾਰੇ ਵੇਰਵੇ, ਅਤੇ ਨੁਕਸਾਨ ਦੇ ਪੈਮਾਨੇ 'ਤੇ ਵਿਸਤ੍ਰਿਤ ਤੁਲਨਾਵਾਂ ਸ਼ਾਮਲ ਹਨ, ਜੋ ਹਮਲਾਵਰ ਦੀ ਬਦਨਾਮੀ ਨੂੰ ਵਧਾ ਸਕਦੀਆਂ ਹਨ। ਇਹ ਪਾਬੰਦੀਆਂ ਵਰਤੋਂਕਾਰ ਦੀ ਉਮਰ ਜਾਂ ਸਵਾਲ ਪੁੱਛਣ ਦੇ ਕਾਰਨ ਦੀ ਪਰਵਾਹ ਕੀਤੇ ਬਿਨਾਂ ਲਾਗੂ ਹੁੰਦੀਆਂ ਹਨ।

ਕਈ ਵਾਰ ਕੋਈ ਬੇਨਤੀ ਆਪਣੇ ਆਪ ਵਿੱਚ ਆਮ ਜਿਹੀ ਲੱਗਦੀ ਹੈ, ਪਰ ਪਿਛਲੀ ਗੱਲਬਾਤ ਦੇ ਸੰਦਰਭ ਵਿੱਚ ਉਸ ਦਾ ਅਰਥ ਬਦਲ ਜਾਂਦਾ ਹੈ। ਮਈ ਵਿੱਚ ਅਸੀਂ ਦੱਸਿਆ ਸੀ ਕਿ ਬਾਅਦ ਦੀ ਗੱਲਬਾਤ ਵਿੱਚ ਵਧੇਰੇ ਸਾਵਧਾਨੀ ਨਾਲ ਜਵਾਬ ਦੇਣ ਲਈ ChatGPT ਪਹਿਲਾਂ ਮਿਲੇ ਚੇਤਾਵਨੀ ਦੇ ਸੰਕੇਤਾਂ ਦੇ ਛੋਟੇ, ਤੱਥ-ਆਧਾਰਿਤ ਸਾਰਾਂ ਦੀ ਵਰਤੋਂ ਕਿਵੇਂ ਕਰ ਸਕਦਾ ਹੈ।⁠ ਅਸੀਂ ਇਸ ਕੰਮ ਨੂੰ ਅੱਗੇ ਵਧਾ ਰਹੇ ਹਾਂ, ਤਾਂ ਜੋ ਜਦੋਂ ਹਾਲੀਆ ਗੱਲਾਂ-ਬਾਤਾਂ ਵਿੱਚ ਸੰਭਾਵੀ ਹਿੰਸਾ ਦੇ ਚੇਤਾਵਨੀ ਸੰਕੇਤ ਦਿਖਾਈ ਦੇਣ, ਤਾਂ ChatGPT ਅਜਿਹੀ ਜਾਣਕਾਰੀ ਸਾਂਝੀ ਕਰਦੇ ਸਮੇਂ ਹੋਰ ਸੰਜਮ ਵਰਤੇ, ਜਿਸ ਦੀ ਦੁਰਵਰਤੋਂ ਹੋ ਸਕਦੀ ਹੈ। ਅਸੀਂ ਇਹ ਸਖ਼ਤ ਸੀਮਾਵਾਂ ਉਨ੍ਹਾਂ ਮਾਮਲਿਆਂ ਵਿੱਚ ਵੀ ਲਾਗੂ ਕਰਨ ਲਈ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ, ਜਿੱਥੇ ਸਾਡਾ ਅਨੁਮਾਨ ਹੈ ਕਿ ਕਿਸੇ ਵਰਤੋਂਕਾਰ ਦੀ ਉਮਰ 18 ਸਾਲ ਤੋਂ ਘੱਟ ਹੈ, ਭਾਵੇਂ ਉਸ ਦੀਆਂ ਗੱਲਾਂ-ਬਾਤਾਂ ਵਿੱਚ ਹਿੰਸਕ ਇਰਾਦੇ ਦਾ ਕੋਈ ਸੰਕੇਤ ਨਾ ਹੋਵੇ।

ਅਸੀਂ ਉਨ੍ਹਾਂ ਖਾਤਿਆਂ 'ਤੇ ਪਾਬੰਦੀ ਲਗਾਉਂਦੇ ਹਾਂ, ਜਿਨ੍ਹਾਂ ਬਾਰੇ ਸਾਨੂੰ ਪਤਾ ਲੱਗਦਾ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਨੇ ਹਿੰਸਕ ਗਤੀਵਿਧੀਆਂ ਸੰਬੰਧੀ ਸਾਡੀਆਂ ਨੀਤੀਆਂ⁠ ਦੀ ਉਲੰਘਣਾ ਕੀਤੀ ਹੈ। ਅਸੀਂ ਸਮੇਂ ਤੋਂ ਪਹਿਲਾਂ ਦਖਲ ਦੇਣ ਦੇ ਵਾਧੂ, ਸਵੈਚਲਿਤ ਤਰੀਕਿਆਂ 'ਤੇ ਵੀ ਮਾਨਸਿਕ ਸਿਹਤ ਅਤੇ ਹਿੰਸਾ ਰੋਕਥਾਮ ਮਾਹਰਾਂ ਨਾਲ ਮਿਲ ਕੇ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ। ਜਦੋਂ ਕਿਸੇ ਗੱਲਬਾਤ ਵਿੱਚ ਅਜਿਹੇ ਸੰਕੇਤ ਮਿਲਦੇ ਹਨ ਕਿ ਕੋਈ ਵਿਅਕਤੀ ਹਿੰਸਾ ਜਾਂ ਕਿਸੇ ਹੋਰ ਵਿਅਕਤੀ ਨੂੰ ਗੰਭੀਰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਦੇ ਵਿਚਾਰ 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰ ਰਿਹਾ ਹੈ, ਤਾਂ ChatGPT ਉਸ ਪੈਟਰਨ ਨੂੰ ਉਸੇ ਵੇਲੇ ਤੋੜਨ ਲਈ ਸਵੈਚਲਿਤ ਤੌਰ 'ਤੇ (ਆਟੋਮੈਟਿਕ) ਚੈਟ ਨੂੰ ਖਤਮ ਕਰਨ ਦੇ ਯੋਗ ਹੋਵੇਗਾ। ਜੇਕਰ ChatGPT ਇਸ ਕਾਰਨ ਕਰਕੇ ਕਈ ਚੈਟਾਂ ਨੂੰ ਖਤਮ ਕਰਦਾ ਹੈ, ਤਾਂ ਅਸੀਂ ਖਾਤੇ ਨੂੰ ਅਸਥਾਈ ਤੌਰ 'ਤੇ ਰੋਕ ਸਕਦੇ ਹਾਂ। ਇਹ ਇੱਕ ਨਿਰੰਤਰ ਯਤਨ ਹੈ ਅਤੇ ਅਸੀਂ ਤਕਨੀਕੀ ਅਤੇ ਵਿਵਹਾਰਕ ਸੁਰੱਖਿਆਵਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ ਅਤੇ ਉਹਨਾਂ ਵਿੱਚ ਨਿਵੇਸ਼ ਕਰਨਾ ਜਾਰੀ ਰੱਖਾਂਗੇ, ਜਿਸ ਵਿੱਚ ਚੇਤਾਵਨੀ ਸੰਕੇਤਾਂ ਦੀ ਭਰੋਸੇਯੋਗਤਾ ਨਾਲ ਪਛਾਣ ਕਰਨਾ ਅਤੇ ਇਹ ਤੈਅ ਕਰਨਾ ਸ਼ਾਮਲ ਹੈ ਕਿ ਕਦੋਂ ਅਤੇ ਕਿਵੇਂ ਦਖਲ ਦੇਣਾ ਹੈ।

ਕਿਸ਼ੋਰਾਂ ਲਈ ChatGPT⁠ ਸੰਵੇਦਨਸ਼ੀਲ ਸਮੱਗਰੀ ਦੇ ਸੰਪਰਕ ਨੂੰ ਘਟਾਉਣ ਲਈ 18 ਸਾਲ ਤੋਂ ਘੱਟ ਉਮਰ ਦੇ ਵਰਤੋਂਕਾਰਾਂ ਲਈ, ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ ਅਤੇ ਵਾਧੂ ਪਾਬੰਦੀਆਂ ਦੇ ਨਾਲ ਉਮਰ-ਅਨੁਸਾਰ ਢੁਕਵੇਂ ਸੁਰੱਖਿਆ ਉਪਾਅ ਲਾਗੂ ਕਰਦਾ ਹੈ। ਅਸੀਂ ਹੁਣ ਹਥਿਆਰਾਂ ਨਾਲ ਸੰਬੰਧਿਤ ਉਸ ਜਾਣਕਾਰੀ 'ਤੇ ਹੋਰ ਪਾਬੰਦੀਆਂ ਲਗਾ ਰਹੇ ਹਾਂ ਜੋ ਕਿਸ਼ੋਰ ਪ੍ਰਾਪਤ ਕਰ ਸਕਦੇ ਹਨ, ਭਾਵੇਂ ਕੋਈ ਸਵਾਲ ਬੇਨੁਕਸਾਨ ਹੀ ਕਿਉਂ ਨਾ ਲੱਗਦਾ ਹੋਵੇ। 

ਸਾਡੀਆਂ ਨੀਤੀਆਂ ਪਹਿਲਾਂ ਹੀ ਕਿਸੇ ਨੂੰ ਵੀ ਹਿੰਸਾ ਦੀ ਯੋਜਨਾ ਬਣਾਉਣ ਜਾਂ ਅੰਜਾਮ ਦੇਣ ਵਿੱਚ ਮਦਦ ਕਰਨ ਦੀ ਮਨਾਹੀ ਕਰਦੀਆਂ ਹਨ ਅਤੇ ਕਿਸ਼ੋਰਾਂ ਨੂੰ ਹਥਿਆਰ ਲੱਭਣ ਜਾਂ ਪ੍ਰਾਪਤ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਨ 'ਤੇ ਪਾਬੰਦੀ ਲਗਾਉਂਦੀਆਂ ਹਨ। ਅਸੀਂ ਉਹਨਾਂ ਸੁਰੱਖਿਆਵਾਂ ਦਾ ਵਿਸਤਾਰ ਕਰ ਰਹੇ ਹਾਂ ਤਾਂ ਜੋ ਹਥਿਆਰਾਂ ਅਤੇ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀਆਂ ਬਾਰੇ ਉਸ ਵਿਵਹਾਰਕ ਜਾਣਕਾਰੀ ਨੂੰ ਸੀਮਤ ਕੀਤਾ ਜਾ ਸਕੇ ਜਿਸਦੀ ਦੁਰਵਰਤੋਂ ਹਿੰਸਾ ਨੂੰ ਵਧਾਉਣ ਲਈ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ, ਭਾਵੇਂ ਹਿੰਸਕ ਇਰਾਦੇ ਦਾ ਕੋਈ ਸੰਕੇਤ ਨਾ ਹੋਵੇ। ਕਿਸ਼ੋਰ ਅਜੇ ਵੀ ਹਿੰਸਾ ਨੂੰ ਰੋਕਣ ਅਤੇ ਘਟਾਉਣ, ਸਹਾਇਤਾ ਮੰਗਣ, ਅਤੇ ਕਿਸੇ ਭਰੋਸੇਯੋਗ ਬਾਲਗ ਨਾਲ ਜੁੜਨ ਲਈ ChatGPT ਦੀ ਵਰਤੋਂ ਕਰ ਸਕਦੇ ਹਨ। 

ਅਸੀਂ ਪਿਛਲੇ ਸਾਲ ਉਮਰ ਦਾ ਅਨੁਮਾਨ⁠ ਲਗਾਉਣ ਦੀ ਸਹੂਲਤ ਸ਼ੁਰੂ ਕੀਤੀ ਸੀ, ਜੋ ਇਹ ਅਨੁਮਾਨ ਲਗਾਉਣ ਲਈ ਵਿਵਹਾਰ ਪੈਟਰਨ ਵਰਗੇ ਕਈ ਸੰਕੇਤਾਂ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਦੀ ਹੈ ਕਿ ਕੋਈ ਵਰਤੋਂਕਾਰ 18 ਸਾਲ ਤੋਂ ਘੱਟ ਜਾਂ ਵੱਧ ਉਮਰ ਦਾ ਹੈ। ਅਸੀਂ ਆਪਣੇ ਉਮਰ ਅਨੁਮਾਨ ਸਿਸਟਮ ਨੂੰ ਮਜ਼ਬੂਤ ਕੀਤਾ ਹੈ ਤਾਂ ਜੋ ਲੋਕਾਂ ਦੁਆਰਾ ChatGPT ਦੀ ਵਰਤੋਂ ਕੀਤੇ ਜਾਣ 'ਤੇ ਨਵੇਂ ਸੰਕੇਤਾਂ ਦਾ ਲਗਾਤਾਰ ਮੁਲਾਂਕਣ ਕੀਤਾ ਜਾ ਸਕੇ ਅਤੇ ਢੁਕਵਾਂ ਹੋਣ 'ਤੇ ਕਿਸ਼ੋਰਾਂ ਨੂੰ 18 ਸਾਲ ਤੋਂ ਘੱਟ ਉਮਰ ਵਾਲੇ ਤਜ਼ਰਬੇ ਵਿੱਚ ਲਿਜਾਇਆ ਜਾ ਸਕੇ। ਜਿਹੜੇ ਵਰਤੋਂਕਾਰ ਗਲਤੀ ਨਾਲ 18 ਸਾਲ ਤੋਂ ਘੱਟ ਉਮਰ ਦੇ ਵਰਗ ਵਿੱਚ ਰੱਖੇ ਗਏ ਹਨ, ਉਹਨਾਂ ਕੋਲ ਹਮੇਸ਼ਾ ਇਹ ਪੁਸ਼ਟੀ ਕਰਨ ਦਾ ਇੱਕ ਤੇਜ਼ ਅਤੇ ਗੋਪਨੀਯਤਾ ਦੀ ਰੱਖਿਆ ਕਰਨ ਵਾਲਾ ਤਰੀਕਾ ਹੋਵੇਗਾ ਕਿ ਉਹ ਬਾਲਗ ਹਨ, ਅਤੇ ਉਹ ਸਾਡੇ ਉਮਰ-ਪ੍ਰਮਾਣਿਕਤਾ ਭਾਈਵਾਲ, Persona, ਰਾਹੀਂ ਕਿਸ਼ੋਰਾਂ ਲਈ ਲਗਾਈਆਂ ਗਈਆਂ ਵਾਧੂ ਪਾਬੰਦੀਆਂ ਨੂੰ ਹਟਾ ਸਕਦੇ ਹਨ। 

ਸਾਡੇ ਪੈਰੈਂਟਲ ਕੰਟਰੋਲਜ਼⁠ ਮਾਪਿਆਂ ਨੂੰ ਆਪਣੇ ChatGPT ਖਾਤਿਆਂ ਨੂੰ ਆਪਣੇ ਕਿਸ਼ੋਰ ਬੱਚਿਆਂ ਨਾਲ ਲਿੰਕ ਕਰਨ ਅਤੇ ਸੁਰੱਖਿਆ ਸੈਟਿੰਗਾਂ ਦਾ ਮਿਲ ਕੇ ਪ੍ਰਬੰਧਨ ਕਰਨ ਦੀ ਸੁਵਿਧਾ ਦਿੰਦੇ ਹਨ। ਲਿੰਕ ਕੀਤੇ ਗਏ ਖਾਤਿਆਂ ਵਿੱਚ ਸੁਰੱਖਿਆ ਅਲਰਟਸ⁠ ਸ਼ਾਮਲ ਹਨ ਜੋ ਉਦੋਂ ਭੇਜੇ ਜਾ ਸਕਦੇ ਹਨ ਜਦੋਂ ਵਿਸ਼ੇਸ਼ ਤੌਰ 'ਤੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਸਮੀਖਿਅਕ ਖੁਦ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਦੀ ਕਿਸੇ ਗੰਭੀਰ ਚਿੰਤਾ ਅਤੇ ਅਜਿਹੇ ਵਿਵਹਾਰ ਦੀ ਪਛਾਣ ਕਰਦੇ ਹਨ ਜੋ ਖਾਣ-ਪੀਣ ਦੀਆਂ ਖਰਾਬ ਆਦਤਾਂ ਨਾਲ ਸੰਬੰਧਿਤ ਹੋ ਸਕਦਾ ਹੈ। ਜੁਲਾਈ ਵਿੱਚ, ਅਸੀਂ ਉਹਨਾਂ ਅਲਰਟਸ ਦਾ ਵਿਸਤਾਰ ਕੀਤਾ ਸੀ ਤਾਂ ਜੋ ਮਾਪਿਆਂ ਨੂੰ ਸੂਚਿਤ ਕੀਤਾ ਜਾ ਸਕੇ ਕਿ ਜੇਕਰ ਉਹਨਾਂ ਦੇ ਕਿਸ਼ੋਰ ਬੱਚੇ ਦਾ ਖਾਤਾ ਹਿੰਸਾ ਸੰਬੰਧੀ ਸਾਡੀਆਂ ਵਰਤੋਂ ਨੀਤੀਆਂ ਦੀ ਉਲੰਘਣਾ ਕਰਨ ਕਰਕੇ ਬੰਦ ਕਰ ਦਿੱਤਾ ਗਿਆ ਹੈ। ਅਸੀਂ ਮਾਪਿਆਂ ਲਈ ਸੂਚਨਾਵਾਂ ਪੇਸ਼ ਕਰਨ ਲਈ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ, ਜੇਕਰ ਅਸੀਂ ਵਾਰ-ਵਾਰ ਹਿੰਸਾ ਬਾਰੇ ਚਰਚਾ ਕਰਨ ਲਈ ਉਹਨਾਂ ਦੇ ਕਿਸ਼ੋਰ ਬੱਚੇ ਦੇ ਖਾਤੇ ਨੂੰ ਰੋਕਦੇ ਹਾਂ, ਜਿਵੇਂ ਕਿ ਉੱਪਰ ਵਿਸਤਾਰ ਵਿੱਚ ਦੱਸਿਆ ਗਿਆ ਹੈ।

ਅਸਲ ਦੁਨੀਆ ਵਿੱਚ ਹਿੰਸਾ ਦੀਆਂ ਘਟਨਾਵਾਂ ਦਿਲ ਤੋੜਨ ਵਾਲੀਆਂ ਅਤੇ ਗੁੰਝਲਦਾਰ ਹੁੰਦੀਆਂ ਹਨ, ਜਿਨ੍ਹਾਂ ਦੇ ਕਈ ਕਾਰਨ ਹੁੰਦੇ ਹਨ। ਇਹ ਇਸ ਗੱਲ ਦੀ ਸਖ਼ਤ ਯਾਦ-ਦਹਾਨੀ ਵੀ ਹਨ ਕਿ ਸਾਨੂੰ ਮਨੁੱਖੀ ਵਿਵਹਾਰ ਦੀਆਂ ਸੁਭਾਵਿਕ ਗੁੰਝਲਦਾਰ ਹਕੀਕਤਾਂ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖਦੇ ਹੋਏ ਆਪਣੇ ਸਿਸਟਮਾਂ ਨੂੰ ਡਿਜ਼ਾਈਨ ਕਰਨਾ ਅਤੇ ਬਿਹਤਰ ਬਣਾਉਣਾ ਜਾਰੀ ਰੱਖਣਾ ਚਾਹੀਦਾ ਹੈ। AI ਸਿਸਟਮਾਂ ਵਿੱਚ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਹਿੰਸਾ ਰੋਕੂ ਸੁਰੱਖਿਆਵਾਂ ਵਿਕਸਤ ਕਰਨ ਲਈ, ਖਤਰਿਆਂ ਨੂੰ ਪਛਾਣਨ ਅਤੇ ਢੁਕਵੀਂ ਪ੍ਰਤੀਕਿਰਿਆ ਦੇਣ ਵਰਗੀਆਂ ਨਵੀਆਂ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਹੱਲ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਅਸੀਂ ਇਹਨਾਂ ਸੁਰੱਖਿਆਵਾਂ ਨੂੰ ਬਿਹਤਰ ਢੰਗ ਨਾਲ ਲਾਗੂ ਕਰਨ ਬਾਰੇ ਆਪਣੇ ਸਿੱਖੇ ਤਜ਼ਰਬਿਆਂ ਨੂੰ ਸਾਂਝਾ ਕਰਨਾ,  ਨਿਵੇਸ਼ ਕਰਨਾ ਅਤੇ ਸੁਧਾਰ ਕਰਨਾ ਜਾਰੀ ਰੱਖਾਂਗੇ। ਇੱਥੇ ਦੱਸੀਆਂ ਗਈਆਂ ਸੁਰੱਖਿਆ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਅਗਲੇ ਕੁਝ ਹਫ਼ਤਿਆਂ ਵਿੱਚ ਸ਼ੁਰੂ ਹੋ ਜਾਣਗੀਆਂ ਅਤੇ ਅਸੀਂ ਉਹਨਾਂ ਨੂੰ ਹੋਰ ਵੀ ਵਧੀਆ ਬਣਾਉਣਾ ਜਾਰੀ ਰੱਖਾਂਗੇ। ਅਸੀਂ ChatGPT ਵਿੱਚ ਨੁਕਸਾਨ ਦੇ ਖਤਰਿਆਂ ਨੂੰ ਘਟਾਉਣ, ਆਪਣੀਆਂ ਬਹੁ-ਪੱਧਰੀ ਸੁਰੱਖਿਆਵਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ, ਦੁਰਵਰਤੋਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ, ਆਪਣੇ ਨਿਯਮਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ, ਅਤੇ ਲੋੜ ਪੈਣ 'ਤੇ ਅਸਲ-ਦੁਨੀਆ ਦੀ ਸਹਾਇਤਾ ਅਤੇ ਦਖਲਅੰਦਾਜ਼ੀ ਨੂੰ ਸ਼ਾਮਲ ਕਰਨ ਲਈ ਵਚਨਬੱਧ ਹਾਂ।