ਤਕਨਾਲੋਜੀ ਵਿੱਚ ਨੈਤਿਕਤਾ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼: ਜਦੋਂ ਵਪਾਰ ਖੋਜ ਨੂੰ ਲੈ ਲੈਂਦਾ ਹੈ

• ਲੇਖਕ ਬਾਰੇ:
• ਲੇਖਕ ਦਾ ਨਾਮ

  Quantumrun ਦੂਰਦ੍ਰਿਸ਼ਟੀ
• ਫਰਵਰੀ 15, 2023

ਇਨਸਾਈਟ ਸੰਖੇਪ

ਸੰਭਾਵੀ ਖਤਰਿਆਂ ਅਤੇ ਅਲਗੋਰਿਦਮਿਕ ਪੱਖਪਾਤ ਦੇ ਕਾਰਨ ਜੋ ਕਿ ਨਕਲੀ ਬੁੱਧੀ (AI) ਪ੍ਰਣਾਲੀਆਂ ਚੋਣਵੇਂ ਘੱਟ ਗਿਣਤੀ ਸਮੂਹਾਂ ਨੂੰ ਪ੍ਰਭਾਵਤ ਕਰ ਸਕਦੀਆਂ ਹਨ, ਬਹੁਤ ਸਾਰੀਆਂ ਸੰਘੀ ਏਜੰਸੀਆਂ ਅਤੇ ਕੰਪਨੀਆਂ ਨੂੰ ਵੱਧ ਤੋਂ ਵੱਧ ਤਕਨੀਕੀ ਪ੍ਰਦਾਤਾਵਾਂ ਨੂੰ ਇਸ ਬਾਰੇ ਨੈਤਿਕ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ ਕਿ ਉਹ AI ਨੂੰ ਕਿਵੇਂ ਵਿਕਸਤ ਅਤੇ ਤਾਇਨਾਤ ਕਰ ਰਹੇ ਹਨ। ਹਾਲਾਂਕਿ, ਅਸਲ ਜੀਵਨ ਵਿੱਚ ਇਹਨਾਂ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨਾ ਬਹੁਤ ਜ਼ਿਆਦਾ ਗੁੰਝਲਦਾਰ ਅਤੇ ਧੁੰਦਲਾ ਹੈ।

ਨੈਤਿਕਤਾ ਦਾ ਟਕਰਾਅ ਪ੍ਰਸੰਗ

ਸਿਲੀਕਾਨ ਵੈਲੀ ਵਿੱਚ, ਕਾਰੋਬਾਰ ਅਜੇ ਵੀ ਖੋਜ ਕਰ ਰਹੇ ਹਨ ਕਿ ਨੈਤਿਕ ਸਿਧਾਂਤਾਂ ਨੂੰ ਅਭਿਆਸ ਵਿੱਚ ਕਿਵੇਂ ਲਾਗੂ ਕਰਨਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਇਹ ਸਵਾਲ ਪੁੱਛਣਾ ਸ਼ਾਮਲ ਹੈ, "ਨੈਤਿਕਤਾ ਨੂੰ ਤਰਜੀਹ ਦੇਣ ਲਈ ਕਿੰਨਾ ਖਰਚਾ ਆਉਂਦਾ ਹੈ?" 2 ਦਸੰਬਰ, 2020 ਨੂੰ, ਟਿਮਨੀਤ ਗੇਬਰੂ, ਗੂਗਲ ਦੀ ਨੈਤਿਕ ਏਆਈ ਟੀਮ ਦੀ ਸਹਿ-ਲੀਡ, ਨੇ ਇੱਕ ਟਵੀਟ ਪੋਸਟ ਕੀਤਾ ਜਿਸ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਸੀ ਕਿ ਉਸਨੂੰ ਬਰਖਾਸਤ ਕਰ ਦਿੱਤਾ ਗਿਆ ਹੈ। ਉਸਦੇ ਪੱਖਪਾਤ ਅਤੇ ਚਿਹਰੇ ਦੀ ਪਛਾਣ ਖੋਜ ਲਈ AI ਭਾਈਚਾਰੇ ਵਿੱਚ ਉਸਦਾ ਵਿਆਪਕ ਤੌਰ 'ਤੇ ਸਤਿਕਾਰ ਕੀਤਾ ਜਾਂਦਾ ਸੀ। ਘਟਨਾ ਜਿਸ ਕਾਰਨ ਉਸ ਨੂੰ ਗੋਲੀਬਾਰੀ ਕੀਤੀ ਗਈ ਸੀ, ਉਸ ਪੇਪਰ ਨਾਲ ਸਬੰਧਤ ਸੀ ਜਿਸਦਾ ਉਸਨੇ ਸਹਿ-ਲੇਖਕ ਕੀਤਾ ਸੀ ਜਿਸਦਾ ਗੂਗਲ ਨੇ ਫੈਸਲਾ ਕੀਤਾ ਕਿ ਪ੍ਰਕਾਸ਼ਨ ਲਈ ਉਹਨਾਂ ਦੇ ਮਾਪਦੰਡਾਂ ਨੂੰ ਪੂਰਾ ਨਹੀਂ ਕੀਤਾ ਗਿਆ। 

ਹਾਲਾਂਕਿ, ਗੇਬਰੂ ਅਤੇ ਹੋਰਾਂ ਨੇ ਦਲੀਲ ਦਿੱਤੀ ਕਿ ਗੋਲੀਬਾਰੀ ਤਰੱਕੀ ਦੀ ਬਜਾਏ ਜਨਤਕ ਸਬੰਧਾਂ ਦੁਆਰਾ ਪ੍ਰੇਰਿਤ ਸੀ। ਬਰਖਾਸਤਗੀ ਉਦੋਂ ਹੋਈ ਜਦੋਂ ਗੇਬਰੂ ਨੇ ਇੱਕ ਅਧਿਐਨ ਨੂੰ ਪ੍ਰਕਾਸ਼ਿਤ ਨਾ ਕਰਨ ਦੇ ਆਦੇਸ਼ 'ਤੇ ਸਵਾਲ ਉਠਾਏ ਕਿ ਕਿਵੇਂ ਮਨੁੱਖੀ ਭਾਸ਼ਾ ਦੀ ਨਕਲ ਕਰਨ ਵਾਲੀ ਏਆਈ ਹਾਸ਼ੀਏ 'ਤੇ ਪਈ ਆਬਾਦੀ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦੀ ਹੈ। ਫਰਵਰੀ 2021 ਵਿੱਚ, ਗੇਬਰੂ ਦੀ ਸਹਿ-ਲੇਖਕ, ਮਾਰਗਰੇਟ ਮਿਸ਼ੇਲ, ਨੂੰ ਵੀ ਬਰਖਾਸਤ ਕਰ ਦਿੱਤਾ ਗਿਆ ਸੀ। 

ਗੂਗਲ ਨੇ ਕਿਹਾ ਕਿ ਮਿਸ਼ੇਲ ਨੇ ਇਲੈਕਟ੍ਰਾਨਿਕ ਫਾਈਲਾਂ ਨੂੰ ਕੰਪਨੀ ਤੋਂ ਬਾਹਰ ਲਿਜਾ ਕੇ ਕੰਪਨੀ ਦੇ ਕੋਡ ਆਫ ਕੰਡਕਟ ਅਤੇ ਸੁਰੱਖਿਆ ਨੀਤੀਆਂ ਨੂੰ ਤੋੜਿਆ। ਮਿਸ਼ੇਲ ਨੇ ਆਪਣੀ ਬਰਖਾਸਤਗੀ ਦੇ ਆਧਾਰ 'ਤੇ ਵਿਸਥਾਰ ਨਾਲ ਨਹੀਂ ਦੱਸਿਆ। ਇਸ ਕਦਮ ਨੇ ਆਲੋਚਨਾ ਦਾ ਇੱਕ ਤੂਫ਼ਾਨ ਪੈਦਾ ਕੀਤਾ, ਜਿਸ ਨਾਲ Google ਫਰਵਰੀ 2021 ਤੱਕ ਆਪਣੀ ਵਿਭਿੰਨਤਾ ਅਤੇ ਖੋਜ ਨੀਤੀਆਂ ਵਿੱਚ ਤਬਦੀਲੀਆਂ ਦਾ ਐਲਾਨ ਕਰੇਗਾ। ਇਹ ਘਟਨਾ ਇਸ ਗੱਲ ਦੀ ਸਿਰਫ਼ ਇੱਕ ਉਦਾਹਰਣ ਹੈ ਕਿ ਕਿਵੇਂ ਨੈਤਿਕਤਾ ਦੀਆਂ ਟਕਰਾਵਾਂ ਵੱਡੀਆਂ ਤਕਨੀਕੀ ਫਰਮਾਂ ਅਤੇ ਉਹਨਾਂ ਦੇ ਕਥਿਤ ਉਦੇਸ਼ ਖੋਜ ਵਿਭਾਗਾਂ ਨੂੰ ਵੰਡਦੀਆਂ ਹਨ।

ਵਿਘਨਕਾਰੀ ਪ੍ਰਭਾਵ

ਹਾਰਵਰਡ ਬਿਜ਼ਨਸ ਰਿਵਿਊ ਦੇ ਅਨੁਸਾਰ, ਸਭ ਤੋਂ ਵੱਡੀ ਚੁਣੌਤੀ ਕਾਰੋਬਾਰੀ ਮਾਲਕਾਂ ਨੂੰ ਨੈਤਿਕ ਸੰਕਟਾਂ ਅਤੇ ਉਨ੍ਹਾਂ ਦੀਆਂ ਕੰਪਨੀਆਂ ਅਤੇ ਉਦਯੋਗਾਂ ਦੀਆਂ ਅੰਦਰੂਨੀ ਮੰਗਾਂ ਦਾ ਜਵਾਬ ਦੇਣ ਲਈ ਬਾਹਰੀ ਦਬਾਅ ਵਿਚਕਾਰ ਸੰਤੁਲਨ ਲੱਭਣਾ ਹੈ। ਬਾਹਰੀ ਆਲੋਚਨਾ ਕੰਪਨੀਆਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਵਪਾਰਕ ਅਭਿਆਸਾਂ ਦਾ ਮੁੜ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਧੱਕਦੀ ਹੈ। ਹਾਲਾਂਕਿ, ਪ੍ਰਬੰਧਨ, ਉਦਯੋਗ ਮੁਕਾਬਲੇ ਅਤੇ ਕਾਰੋਬਾਰਾਂ ਨੂੰ ਕਿਵੇਂ ਚਲਾਉਣਾ ਚਾਹੀਦਾ ਹੈ ਇਸ ਬਾਰੇ ਆਮ ਬਾਜ਼ਾਰ ਦੀਆਂ ਉਮੀਦਾਂ ਦੇ ਦਬਾਅ ਕਈ ਵਾਰ ਵਿਰੋਧੀ ਪ੍ਰੋਤਸਾਹਨ ਪੈਦਾ ਕਰ ਸਕਦੇ ਹਨ ਜੋ ਸਥਿਤੀ ਦੇ ਪੱਖ ਵਿੱਚ ਹਨ। ਇਸ ਅਨੁਸਾਰ, ਨੈਤਿਕ ਝੜਪਾਂ ਉਦੋਂ ਹੀ ਵਧਣਗੀਆਂ ਜਿਵੇਂ ਕਿ ਸੱਭਿਆਚਾਰਕ ਨਿਯਮਾਂ ਦਾ ਵਿਕਾਸ ਹੁੰਦਾ ਹੈ ਅਤੇ ਜਿਵੇਂ ਕਿ ਕੰਪਨੀਆਂ (ਖਾਸ ਤੌਰ 'ਤੇ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਤਕਨੀਕੀ ਫਰਮਾਂ) ਨਵੇਂ ਵਪਾਰਕ ਅਭਿਆਸਾਂ 'ਤੇ ਸੀਮਾਵਾਂ ਨੂੰ ਅੱਗੇ ਵਧਾਉਣਾ ਜਾਰੀ ਰੱਖਦੀਆਂ ਹਨ ਜੋ ਉਹ ਨਵੇਂ ਮਾਲੀਆ ਪੈਦਾ ਕਰਨ ਲਈ ਲਾਗੂ ਕਰ ਸਕਦੀਆਂ ਹਨ।

ਇਸ ਨੈਤਿਕ ਸੰਤੁਲਨ ਨਾਲ ਸੰਘਰਸ਼ ਕਰ ਰਹੀਆਂ ਕਾਰਪੋਰੇਸ਼ਨਾਂ ਦੀ ਇੱਕ ਹੋਰ ਉਦਾਹਰਣ ਕੰਪਨੀ ਹੈ, ਮੈਟਾ। ਆਪਣੀਆਂ ਜਨਤਕ ਕੀਤੀਆਂ ਗਈਆਂ ਨੈਤਿਕ ਕਮੀਆਂ ਨੂੰ ਦੂਰ ਕਰਨ ਲਈ, Facebook ਨੇ 2020 ਵਿੱਚ ਇੱਕ ਸੁਤੰਤਰ ਨਿਗਰਾਨੀ ਬੋਰਡ ਸਥਾਪਤ ਕੀਤਾ, ਜਿਸ ਵਿੱਚ ਸਮੱਗਰੀ ਸੰਚਾਲਨ ਦੇ ਫੈਸਲਿਆਂ ਨੂੰ ਉਲਟਾਉਣ ਦਾ ਅਧਿਕਾਰ ਹੈ, ਇੱਥੋਂ ਤੱਕ ਕਿ ਉਹ ਫਾਊਂਡਰ ਮਾਰਕ ਜ਼ੁਕਰਬਰਗ ਦੁਆਰਾ ਕੀਤੇ ਗਏ ਸਨ। ਜਨਵਰੀ 2021 ਵਿੱਚ, ਕਮੇਟੀ ਨੇ ਵਿਵਾਦਿਤ ਸਮਗਰੀ 'ਤੇ ਆਪਣੇ ਪਹਿਲੇ ਫੈਸਲੇ ਦਿੱਤੇ ਅਤੇ ਜ਼ਿਆਦਾਤਰ ਮਾਮਲਿਆਂ ਨੂੰ ਉਲਟਾ ਦਿੱਤਾ। 

ਹਾਲਾਂਕਿ, ਫੇਸਬੁੱਕ 'ਤੇ ਰੋਜ਼ਾਨਾ ਅਰਬਾਂ ਪੋਸਟਾਂ ਅਤੇ ਸਮੱਗਰੀ ਦੀਆਂ ਸ਼ਿਕਾਇਤਾਂ ਦੀ ਅਣਗਿਣਤ ਗਿਣਤੀ ਦੇ ਨਾਲ, ਨਿਗਰਾਨੀ ਬੋਰਡ ਰਵਾਇਤੀ ਸਰਕਾਰਾਂ ਨਾਲੋਂ ਬਹੁਤ ਹੌਲੀ ਕੰਮ ਕਰਦਾ ਹੈ। ਫਿਰ ਵੀ, ਬੋਰਡ ਨੇ ਕੁਝ ਜਾਇਜ਼ ਸਿਫਾਰਿਸ਼ਾਂ ਕੀਤੀਆਂ ਸਨ। 2022 ਵਿੱਚ, ਪੈਨਲ ਨੇ ਮੇਟਾ ਪਲੇਟਫਾਰਮਾਂ ਨੂੰ ਫੇਸਬੁੱਕ 'ਤੇ ਪ੍ਰਕਾਸ਼ਿਤ ਡੌਕਸਿੰਗ ਦੀਆਂ ਘਟਨਾਵਾਂ 'ਤੇ ਕਾਰਵਾਈ ਕਰਨ ਦੀ ਸਲਾਹ ਦਿੱਤੀ, ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਪਲੇਟਫਾਰਮਾਂ 'ਤੇ ਵਿਅਕਤੀਆਂ ਦੇ ਘਰ ਦੇ ਪਤੇ ਸਾਂਝੇ ਕਰਨ ਤੋਂ ਰੋਕਦੇ ਹੋਏ ਭਾਵੇਂ ਉਹ ਜਨਤਕ ਤੌਰ 'ਤੇ ਉਪਲਬਧ ਹੋਣ। ਬੋਰਡ ਨੇ ਇਹ ਵੀ ਵਕਾਲਤ ਕੀਤੀ ਕਿ ਫੇਸਬੁੱਕ ਪਾਰਦਰਸ਼ੀ ਤੌਰ 'ਤੇ ਇਹ ਦੱਸਣ ਲਈ ਇੱਕ ਸੰਚਾਰ ਚੈਨਲ ਖੋਲ੍ਹੇ ਕਿ ਉਲੰਘਣਾ ਕਿਉਂ ਹੁੰਦੀ ਹੈ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਕਿਵੇਂ ਸੰਭਾਲਿਆ ਜਾਂਦਾ ਹੈ।

ਨਿੱਜੀ ਖੇਤਰ ਦੇ ਨੈਤਿਕਤਾ ਦੇ ਟਕਰਾਅ ਦੇ ਪ੍ਰਭਾਵ

ਪ੍ਰਾਈਵੇਟ ਸੈਕਟਰ ਵਿੱਚ ਨੈਤਿਕਤਾ ਦੇ ਟਕਰਾਅ ਦੇ ਵਿਆਪਕ ਪ੍ਰਭਾਵਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋ ਸਕਦੇ ਹਨ: 

• ਹੋਰ ਕੰਪਨੀਆਂ ਆਪਣੇ ਸਬੰਧਿਤ ਕਾਰੋਬਾਰੀ ਅਭਿਆਸਾਂ ਵਿੱਚ ਨੈਤਿਕ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ ਲਈ ਸੁਤੰਤਰ ਨੈਤਿਕਤਾ ਬੋਰਡ ਬਣਾ ਰਹੀਆਂ ਹਨ।
• ਤਕਨੀਕੀ ਖੋਜ ਨੂੰ ਵਪਾਰਕ ਬਣਾਉਣ ਦੇ ਤਰੀਕੇ 'ਤੇ ਅਕਾਦਮਿਕ ਤੋਂ ਵਧੀ ਹੋਈ ਆਲੋਚਨਾ ਨੇ ਵਧੇਰੇ ਪ੍ਰਸ਼ਨਾਤਮਕ ਅਭਿਆਸਾਂ ਅਤੇ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਜਨਮ ਦਿੱਤਾ ਹੈ।
• ਤਕਨੀਕੀ ਫਰਮਾਂ ਦੇ ਤੌਰ 'ਤੇ ਵਧੇਰੇ ਜਨਤਕ ਖੇਤਰ ਦੇ ਦਿਮਾਗ਼ ਦਾ ਨਿਕਾਸ ਪ੍ਰਤਿਭਾਸ਼ਾਲੀ ਜਨਤਕ ਅਤੇ ਯੂਨੀਵਰਸਿਟੀ AI ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਹੈਡਹੰਟ ਕਰਦੇ ਹਨ, ਕਾਫ਼ੀ ਤਨਖਾਹਾਂ ਅਤੇ ਲਾਭਾਂ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦੇ ਹਨ।
• ਸਰਕਾਰਾਂ ਤੇਜ਼ੀ ਨਾਲ ਸਾਰੀਆਂ ਫਰਮਾਂ ਨੂੰ ਆਪਣੇ ਨੈਤਿਕ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ਾਂ ਨੂੰ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਨ ਦੀ ਮੰਗ ਕਰਦੀਆਂ ਹਨ ਭਾਵੇਂ ਉਹ ਤਕਨਾਲੋਜੀ ਸੇਵਾਵਾਂ ਪ੍ਰਦਾਨ ਕਰਦੀਆਂ ਹਨ ਜਾਂ ਨਹੀਂ।
• ਵਿਆਜ ਦੇ ਟਕਰਾਅ ਕਾਰਨ ਵੱਡੀਆਂ ਕੰਪਨੀਆਂ ਤੋਂ ਕੱਢੇ ਜਾ ਰਹੇ ਵਧੇਰੇ ਸਪੱਸ਼ਟ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਤੁਰੰਤ ਬਦਲਿਆ ਜਾਣਾ ਹੈ।

ਵਿਚਾਰ ਕਰਨ ਲਈ ਪ੍ਰਸ਼ਨ

• ਤੁਸੀਂ ਕਿਵੇਂ ਸੋਚਦੇ ਹੋ ਕਿ ਨੈਤਿਕਤਾ ਦੇ ਝਗੜੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਪ੍ਰਾਪਤ ਹੋਣ ਵਾਲੇ ਉਤਪਾਦਾਂ ਅਤੇ ਸੇਵਾਵਾਂ ਨੂੰ ਕਿਵੇਂ ਪ੍ਰਭਾਵਤ ਕਰਨਗੇ?
• ਫਰਮਾਂ ਆਪਣੀ ਤਕਨੀਕੀ ਖੋਜ ਵਿੱਚ ਪਾਰਦਰਸ਼ਤਾ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਕੀ ਕਰ ਸਕਦੀਆਂ ਹਨ?