ਛੇ ਹਫ਼ਤੇ ਪਹਿਲਾਂ, ਅਸੀਂ My AI, OpenAI ਦੀ GPT ਤਕਨਾਲੋਜੀ ਨਾਲ ਬਣਿਆ ਚੈਟਬੋਟ ਪੇਸ਼ ਕੀਤਾ। ਅਸੀਂ Snapchat + ਗਾਹਕਾਂ ਨੂੰ My AI ਦੇ ਕੇ ਹੌਲੀ ਹੌਲੀ ਸ਼ੁਰੂਆਤ ਕੀਤੀ ਅਤੇ ਇੱਕ ਮਹੀਨੇ ਬਾਅਦ ਕੁਝ ਹੀ ਦੇਰ ਵਿੱਚ, ਅਸੀਂ ਬਹੁਤ ਕੁਝ ਸਿੱਖ ਲਿਆ। ਉਦਾਹਰਨ ਲਈ, ਅਸੀਂ ਜਾਣਦੇ ਹਾਂ ਕਿ ਸਾਡੇ ਭਾਈਚਾਰੇ ਵੱਲੋਂ My AI ਨੂੰ ਪੁੱਛੇ ਜਾਣ ਵਾਲੇ ਕੁਝ ਸਭ ਤੋਂ ਆਮ ਵਿਸ਼ਿਆਂ ਵਿੱਚ ਫ਼ਿਲਮਾਂ, ਖੇਡਾਂ, ਗੇਮਾਂ, ਪਾਲਤੂ ਪਸ਼ੂ ਅਤੇ ਗਣਿਤ ਸ਼ਾਮਲ ਹਨ।

ਅਸੀਂ ਦੁਰਵਰਤੋਂ ਦੀਆਂ ਕੁਝ ਸੰਭਾਵਨਾਵਾਂ ਬਾਰੇ ਵੀ ਸਿੱਖਿਆ ਹੈ, ਜਿਨ੍ਹਾਂ ਵਿੱਚੋਂ ਬਹੁਤ ਕੁਝ ਅਸੀਂ ਉਹਨਾਂ ਲੋਕਾਂ ਤੋਂ ਸਿੱਖਿਆ ਜੋ ਚੈਟਬੋਟ ਨੂੰ ਅਜਿਹੇ ਜਵਾਬ ਦੇਣ ਲਈ ਧੋਖਾ ਦੇਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੇ ਹਨ ਜੋ ਸਾਡੀਆਂ ਸੇਧਾਂ ਦੇ ਮੁਤਾਬਕ ਨਹੀਂ ਹਨ। My AI ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਸਾਡੇ ਸਾਂਝੇ ਕੰਮ ਦੇ ਹਿੱਸੇ ਵਜੋਂ, ਅਸੀਂ ਕੁਝ ਸੁਰੱਖਿਆ ਸੁਧਾਰਾਂ ਬਾਰੇ ਅੱਪਡੇਟ ਸਾਂਝਾ ਕਰਨਾ ਚਾਹੁੰਦੇ ਹਾਂ ਜੋ ਅਸੀਂ ਹਾਲ ਹੀ ਵਿੱਚ ਸਾਡੀਆਂ ਸਿੱਖਿਆਵਾਂ ਦੇ ਨਤੀਜੇ ਵਜੋਂ ਲਾਗੂ ਕੀਤੇ ਹਨ — ਨਵੇਂ ਔਜ਼ਾਰਾਂ ਸਮੇਤ ਜਿਨ੍ਹਾਂ ਨੂੰ ਅਸੀਂ ਅਮਲ ਵਿੱਚ ਲਿਆਉਣ ਦੀ ਯੋਜਨਾ ਬਣਾ ਰਹੇ ਹਾਂ।

ਪਰਦੇਦਾਰੀ Snap ਦੇ ਮਿਸ਼ਨ ਲਈ ਹਮੇਸ਼ਾ ਹੀ ਕੇਂਦਰ ਰਹੀ ਹੈ - ਇਸ ਨਾਲ ਲੋਕਾਂ ਨੂੰ ਦੋਸਤ ਅਤੇ ਪਰਿਵਾਰ ਨਾਲ ਸੰਚਾਰ ਕਰਨ ਵੇਲੇ ਆਪਣੇ ਆਪ ਨੂੰ ਖੁੱਲ੍ਹ ਕੇ ਪੇਸ਼ ਕਰਨ ਵਿੱਚ ਆਰਾਮਦੇਹ ਮਹਿਸੂਸ ਕਰਨ ਵਿੱਚ ਮਦਦ ਮਿਲਦੀ ਹੈ। Snapchat ਰਾਹੀਂ ਅਸੀਂ ਆਪਣੇ ਭਾਈਚਾਰੇ ਨੂੰ ਇਸ ਬਾਰੇ ਸਪਸ਼ਟਤਾ ਅਤੇ ਸੰਦਰਭ ਦੇਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦੇ ਹਾਂ ਕਿ ਸਾਡੇ ਉਤਪਾਦ ਡੈਟਾ ਕਿਵੇਂ ਵਰਤਦੇ ਹਨ ਅਤੇ ਅਸੀਂ ਪਰਦੇਦਾਰੀ-ਮੁਤਾਬਕ-ਡਿਜ਼ਾਈਨ ਪ੍ਰਕਿਰਿਆਵਾਂ ਵਰਤ ਕੇ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਕਿਵੇਂ ਤਿਆਰ ਕਰਦੇ ਹਾਂ। ਉਦਾਹਰਨ ਲਈ, Snapchat 'ਤੇ ਦੋਸਤਾਂ ਵਿਚਕਾਰ ਗੱਲਬਾਤ ਨਾਲ ਸਬੰਧਤ ਡੈਟੇ ਨੂੰ ਸੰਭਾਲਣ ਦਾ ਤਰੀਕਾ Snapchat 'ਤੇ ਪ੍ਰਸਾਰਣ ਸਮੱਗਰੀ ਨਾਲ ਸਬੰਧਤ ਡੈਟੇ ਦੀ ਸੰਭਾਲ ਨਾਲੋਂ ਵੱਖਰਾ ਹੈ, ਜਿਸ ਨੂੰ ਅਸੀਂ ਉੱਚ ਪੱਧਰ 'ਤੇ ਰੱਖਦੇ ਹਾਂ ਅਤੇ ਇਸਨੂੰ ਸੰਚਾਲਿਤ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ ਕਿਉਂਕਿ ਇਹ ਦਰਸ਼ਕਾਂ ਦੀ ਵੱਡੀ ਗਿਣਤੀ ਤੱਕ ਪਹੁੰਚਦਾ ਹੈ।

ਹਾਲਾਂਕਿ, ਕਿਉਂਕਿ My AI ਚੈਟਬੋਟ ਹੈ ਅਤੇ ਅਸਲ ਦੋਸਤ ਨਹੀਂ ਹੈ, ਅਸੀਂ ਜਾਣਬੁੱਝ ਕੇ ਸੰਬੰਧਿਤ ਡੈਟੇ ਨੂੰ ਵੱਖਰੇ ਢੰਗ ਨਾਲ ਪੇਸ਼ ਕੀਤਾ, ਕਿਉਂਕਿ ਅਸੀਂ My AI ਨੂੰ ਹੋਰ ਮਜ਼ੇਦਾਰ, ਲਾਹੇਵੰਦ ਅਤੇ ਸੁਰੱਖਿਅਤ ਬਣਾਉਣ ਲਈ ਪਿਛਲੀਆਂ ਗੱਲਬਾਤਾਂ ਵਰਤਣ ਦੇ ਸਮੱਰਥ ਹਾਂ। Snapchatters ਨੂੰ My AI ਵਰਤਣ ਦੇਣ ਤੋਂ ਪਹਿਲਾਂ, ਅਸੀਂ ਉਹਨਾਂ ਨੂੰ ਔਨਬੋਰਡਿੰਗ ਸੁਨੇਹਾ ਦਿਖਾਉਂਦੇ ਹਾਂ ਜੋ ਇਹ ਸਾਫ਼ ਕਰਦਾ ਹੈ ਕਿ My AI ਵਾਲੇ ਸਾਰੇ ਸੁਨੇਹਿਆਂ ਨੂੰ ਉਦੋਂ ਤੱਕ ਬਰਕਰਾਰ ਰੱਖਿਆ ਜਾਵੇਗਾ ਜਦੋਂ ਤੱਕ ਤੁਸੀਂ ਉਹਨਾਂ ਨੂੰ ਮਿਟਾ ਨਹੀਂ ਦਿੰਦੇ।

My AI ਨਾਲ ਇਹਨਾਂ ਸ਼ੁਰੂਆਤੀ ਗੱਲਬਾਤਾਂ ਦੀ ਸਮੀਖਿਆ ਕਰਨ ਦੀ ਸਮੱਰਥਾ ਹੋਣ ਕਾਰਨ ਸਾਨੂੰ ਇਹ ਪਛਾਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਮਿਲੀ ਹੈ ਕਿ ਕਿਹੜੀਆਂ ਬੰਦਸ਼ਾਂ ਚੰਗੀ ਤਰ੍ਹਾਂ ਕੰਮ ਕਰ ਰਹੀਆਂ ਹਨ ਅਤੇ ਕਿਨ੍ਹਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਬਣਾਉਣ ਦੀ ਲੋੜ ਹੈ। ਇਸਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਨ ਲਈ, ਅਸੀਂ My AI ਸਵਾਲਾਂ ਅਤੇ ਜਵਾਬਾਂ ਦੀਆਂ ਸਮੀਖਿਆਵਾਂ ਚਲਾ ਰਹੇ ਹਾਂ ਜਿਸ ਵਿੱਚ "ਗੈਰ-ਮੁਨਾਸਬ" ਭਾਸ਼ਾ ਸ਼ਾਮਲ ਹੈ, ਜਿਸ ਨੂੰ ਅਸੀਂ ਕਿਸੇ ਵੀ ਲਿਖਤ ਜਿਸ ਵਿੱਚ ਹਿੰਸਾ, ਜਿਨਸੀ ਤੌਰ 'ਤੇ ਅਸ਼ਲੀਲ ਸ਼ਬਦਾਂ, ਨਸ਼ੀਲੇ ਪਦਾਰਥਾਂ ਦੀ ਨਾਜਾਇਜ਼ ਵਰਤੋਂ, ਬਾਲ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ, ਧੌਂਸਪੁਣਾ, ਨਫ਼ਰਤ ਭਰਿਆ ਭਾਸ਼ਣ, ਅਪਮਾਨਜਨਕ ਜਾਂ ਪੱਖਪਾਤੀ ਬਿਆਨ, ਨਸਲਵਾਦ, ਮਾੜਾ ਸਲੂਕ, ਜਾਂ ਘੱਟ ਨੁਮਾਇੰਦਗੀ ਵਾਲੇ ਸਮੂਹਾਂ ਨੂੰ ਹਾਸ਼ੀਏ 'ਤੇ ਰੱਖਣ ਵਜੋਂ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦੇ ਹਾਂ। Snapchat 'ਤੇ ਸਮੱਗਰੀ ਦੀਆਂ ਇਹ ਸਾਰੀਆਂ ਸ਼੍ਰੇਣੀਆਂ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਪਾਬੰਦੀਸ਼ੁਦਾ ਹਨ।

ਸਾਡੇ ਸਭ ਤੋਂ ਤਾਜ਼ਾ ਵਿਸ਼ਲੇਸ਼ਣ ਮੁਤਾਬਕ My AI ਦੇ ਜਵਾਬਾਂ ਵਿੱਚੋਂ ਸਿਰਫ਼ 0.01% ਨੂੰ ਗੈਰ-ਮੁਨਾਸਬ ਮੰਨਿਆ ਗਿਆ। ਸਭ ਤੋਂ ਆਮ ਗੈਰ-ਮੁਨਾਸਬ My AI ਜਵਾਬਾਂ ਦੀਆਂ ਉਦਾਹਰਨਾਂ ਵਿੱਚ Snapchatters ਦੇ ਸਵਾਲਾਂ ਦੇ ਜਵਾਬ ਵਿੱਚ My AI ਵੱਲੋਂ ਅਢੁਕਵੇਂ ਸ਼ਬਦਾਂ ਨੂੰ ਦੁਹਰਾਉਣਾ ਸ਼ਾਮਲ ਹੈ।

ਅਸੀਂ My AI ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਇਹਨਾਂ ਸਿੱਖਿਆਵਾਂ ਨੂੰ ਵਰਤਣਾ ਜਾਰੀ ਰੱਖਾਂਗੇ। ਇਹ ਡੈਟਾ My AI ਦੀ ਦੁਰਵਰਤੋਂ ਨੂੰ ਸੀਮਤ ਕਰਨ ਲਈ ਨਵਾਂ ਸਿਸਟਮ ਤਿਆਰ ਕਰਨ ਵਿੱਚ ਵੀ ਸਾਡੀ ਮਦਦ ਕਰੇਗਾ। ਅਸੀਂ ਸਾਡੇ ਮੌਜੂਦਾ ਔਜ਼ਾਰਸੈੱਟ ਵਿੱਚ Open AI ਦੀ ਸੰਚਾਲਨ ਤਕਨਾਲੋਜੀ ਨੂੰ ਸ਼ਾਮਲ ਕਰ ਰਹੇ ਹਾਂ, ਜੋ ਸਾਨੂੰ ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਨੁਕਸਾਨਦੇਹ ਸਮੱਗਰੀ ਦੀ ਗੰਭੀਰਤਾ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਅਤੇ ਸੇਵਾ ਦੀ ਦੁਰਵਰਤੋਂ ਕਰਨ 'ਤੇ Snapchatters ਦੀ My AI ਤੱਕ ਪਹੁੰਚ 'ਤੇ ਅਸਥਾਈ ਤੌਰ 'ਤੇ ਪਾਬੰਦੀ ਲਗਾਉਣ ਦੇਵੇਗੀ।

ਅਸੀਂ ਸੁਰੱਖਿਆ ਅਤੇ ਢੁਕਵੀਂ ਉਮਰ ਨੂੰ ਤਰਜੀਹ ਦੇਣ ਵਾਲੇ ਉਤਪਾਦਾਂ ਅਤੇ ਤਜ਼ਰਬਿਆਂ ਨੂੰ ਡਿਜ਼ਾਈਨ ਕਰਨ ਦੀ ਸਾਡੀ ਜ਼ਿੰਮੇਵਾਰੀ ਨੂੰ ਗੰਭੀਰਤਾ ਨਾਲ ਲੈਂਦੇ ਹਾਂ। My AI ਨੂੰ ਲਾਂਚ ਕਰਨ ਤੋਂ ਬਾਅਦ, ਅਸੀਂ Snapchatter ਦੀ ਉਮਰ ਦੀ ਪਰਵਾਹ ਕੀਤੇ ਬਿਨਾਂ, ਅਢੁਕਵੀਆਂ Snapchatter ਬੇਨਤੀਆਂ ਲਈ ਇਸਦੇ ਜਵਾਬਾਂ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਜ਼ੋਰਦਾਰ ਢੰਗ ਨਾਲ ਕੰਮ ਕੀਤਾ। ਅਸੀਂ ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਗੈਰ-ਮੁਨਾਸਬ ਲਿਖਤ ਲਈ My AI ਗੱਲਬਾਤਾਂ ਨੂੰ ਸਕੈਨ ਕਰਨ ਅਤੇ ਕਾਰਵਾਈ ਕਰਨ ਲਈ ਕਿਰਿਆਸ਼ੀਲ ਪਛਾਣ ਔਜ਼ਾਰ ਵਰਤਦੇ ਹਾਂ।

ਭਾਵੇਂ ਕੋਈ Snapchatter ਕਦੇ ਵੀ My AI ਨੂੰ ਗੱਲਬਾਤ ਵਿੱਚ ਆਪਣੀ ਉਮਰ ਨਹੀਂ ਦੱਸਦਾ, ਅਸੀਂ Snapchatter ਦੀ ਜਨਮ ਮਿਤੀ ਵਰਤਦੇ ਹੋਏ My AI ਲਈ ਨਵਾਂ ਉਮਰ ਸੰਕੇਤ ਵੀ ਲਾਗੂ ਕੀਤਾ, ਤਾਂ ਕਿ ਗੱਲਬਾਤ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣ ਵੇਲੇ ਚੈਟਬੋਟ ਲਗਾਤਾਰ ਉਹਨਾਂ ਦੀ ਉਮਰ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖੇਗਾ।

Snapchat ਮਾਪਿਆਂ ਅਤੇ ਦੇਖਭਾਲ ਕਰਨ ਵਾਲਿਆਂ ਨੂੰ ਸਾਡੇ ਐਪ-ਅੰਦਰਲੇ ਪਰਿਵਾਰ ਕੇਂਦਰ ਰਾਹੀਂ ਪਾਰਦਰਸ਼ਤਾ ਦਿੰਦੀ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਦੇ ਕਿਸ਼ੋਰ ਕਿਹੜੇ ਦੋਸਤਾਂ ਨਾਲ ਅਤੇ ਕਦੋਂ ਸੰਚਾਰ ਕਰਦੇ ਹਨ। ਆਉਣ ਵਾਲੇ ਹਫ਼ਤਿਆਂ ਵਿੱਚ, ਅਸੀਂ ਮਾਂ-ਪਿਓ ਨੂੰ My AI ਨਾਲ ਉਹਨਾਂ ਦੇ ਕਿਸ਼ੋਰਾਂ ਦੀਆਂ ਗੱਲਾਂਬਾਤਾਂ ਬਾਰੇ ਵਧੇਰੇ ਅੰਦਰੂਨੀ ਝਾਤਾਂ ਦਿਆਂਗੇ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਮਾਪੇ ਇਹ ਵੇਖਣ ਲਈ ਪਰਿਵਾਰ ਕੇਂਦਰ ਵਰਤ ਸਕਣਗੇ ਕਿ ਉਨ੍ਹਾਂ ਦੇ ਕਿਸ਼ੋਰ My AI ਨਾਲ ਸੰਚਾਰ ਕਰ ਰਹੇ ਹਨ, ਅਤੇ ਕਿੰਨੀ ਵਾਰ। ਪਰਿਵਾਰ ਕੇਂਦਰ ਵਰਤਣ ਲਈ, ਮਾਂ-ਪਿਓ ਅਤੇ ਕਿਸ਼ੋਰ ਦੋਵਾਂ ਨੂੰ ਚੋਣ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ — ਅਤੇ ਦਿਲਚਸਪੀ ਰੱਖਣ ਵਾਲੇ ਪਰਿਵਾਰ ਇੱਥੇ ਸਾਈਨ ਅੱਪ ਕਰਨ ਬਾਰੇ ਹੋਰ ਜਾਣਕਾਰੀ ਲੈ ਸਕਦੇ ਹਨ।

ਅਸੀਂ Snapchatters ਨੂੰ ਸਾਡੇ ਐਪ-ਅੰਦਰਲੇ ਰਿਪੋਰਟਿੰਗ ਔਜ਼ਾਰ ਵਰਤਣ ਲਈ ਉਤਸ਼ਾਹਿਤ ਕਰਨਾ ਜਾਰੀ ਰੱਖਦੇ ਹਾਂ ਤਾਂ ਕਿ ਉਹ My AI ਤੋਂ ਮਿਲਣ ਵਾਲੇ ਜਵਾਬਾਂ ਅਤੇ ਉਤਪਾਦ ਨਾਲ ਉਨ੍ਹਾਂ ਦੇ ਸਮੁੱਚੇ ਤਜ਼ਰਬਿਆਂ ਬਾਰੇ ਸਾਨੂੰ ਫੀਡਬੈਕ ਸਪੁਰਦ ਕਰਦੇ ਰਹਿਣ।

ਅਸੀਂ My AI ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਲਗਾਤਾਰ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ, ਅਤੇ ਅਸੀਂ ਆਪਣੇ ਭਾਈਚਾਰੇ ਨੂੰ ਸੁਰੱਖਿਅਤ ਰੱਖਣ ਵਿੱਚ ਮਦਦ ਲਈ ਵਾਧੂ ਉਪਰਾਲਿਆਂ ਦਾ ਲਗਾਤਾਰ ਮੁਲਾਂਕਣ ਕਰਾਂਗੇ। ਅਸੀਂ My AI 'ਤੇ ਸਾਰੇ ਸ਼ੁਰੂਆਤੀ ਫੀਡਬੈਕ ਦੀ ਸ਼ਲਾਘਾ ਕਰਦੇ ਹਾਂ, ਅਤੇ ਅਸੀਂ ਆਪਣੇ ਭਾਈਚਾਰੇ ਲਈ ਮਜ਼ੇਦਾਰ ਅਤੇ ਸੁਰੱਖਿਅਤ ਤਜ਼ਰਬਾ ਦੇਣ ਲਈ ਵਚਨਬੱਧ ਹਾਂ।