ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਪੱਖਪਾਤ: ਮਸ਼ੀਨਾਂ ਓਨੀਆਂ ਉਦੇਸ਼ ਨਹੀਂ ਹਨ ਜਿੰਨੀਆਂ ਅਸੀਂ ਉਮੀਦ ਕਰਦੇ ਹਾਂ
ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਪੱਖਪਾਤ: ਮਸ਼ੀਨਾਂ ਓਨੀਆਂ ਉਦੇਸ਼ ਨਹੀਂ ਹਨ ਜਿੰਨੀਆਂ ਅਸੀਂ ਉਮੀਦ ਕਰਦੇ ਹਾਂ
ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਪੱਖਪਾਤ: ਮਸ਼ੀਨਾਂ ਓਨੀਆਂ ਉਦੇਸ਼ ਨਹੀਂ ਹਨ ਜਿੰਨੀਆਂ ਅਸੀਂ ਉਮੀਦ ਕਰਦੇ ਹਾਂ
- ਲੇਖਕ ਬਾਰੇ:
- ਫਰਵਰੀ 8, 2022
ਇਨਸਾਈਟ ਸੰਖੇਪ
ਜਦੋਂ ਕਿ ਡੇਟਾ-ਸੰਚਾਲਿਤ ਤਕਨਾਲੋਜੀਆਂ ਇੱਕ ਨਿਰਪੱਖ ਸਮਾਜ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਨ ਦਾ ਵਾਅਦਾ ਕਰਦੀਆਂ ਹਨ, ਉਹ ਅਕਸਰ ਉਹੀ ਪੱਖਪਾਤ ਨੂੰ ਦਰਸਾਉਂਦੀਆਂ ਹਨ ਜੋ ਮਨੁੱਖਾਂ ਦੁਆਰਾ ਰੱਖੀਆਂ ਜਾਂਦੀਆਂ ਹਨ, ਜਿਸ ਨਾਲ ਸੰਭਾਵੀ ਬੇਇਨਸਾਫ਼ੀ ਹੁੰਦੀ ਹੈ। ਉਦਾਹਰਨ ਲਈ, ਨਕਲੀ ਬੁੱਧੀ (AI) ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਪੱਖਪਾਤ ਅਣਜਾਣੇ ਵਿੱਚ ਨੁਕਸਾਨਦੇਹ ਰੂੜ੍ਹੀਵਾਦ ਨੂੰ ਵਿਗਾੜ ਸਕਦਾ ਹੈ। ਹਾਲਾਂਕਿ, ਏਆਈ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਹੋਰ ਬਰਾਬਰ ਬਣਾਉਣ ਲਈ ਯਤਨ ਜਾਰੀ ਹਨ, ਹਾਲਾਂਕਿ ਇਹ ਉਪਯੋਗਤਾ ਅਤੇ ਨਿਰਪੱਖਤਾ ਵਿਚਕਾਰ ਸੰਤੁਲਨ, ਅਤੇ ਤਕਨੀਕੀ ਟੀਮਾਂ ਵਿੱਚ ਵਿਚਾਰਸ਼ੀਲ ਨਿਯਮ ਅਤੇ ਵਿਭਿੰਨਤਾ ਦੀ ਜ਼ਰੂਰਤ ਬਾਰੇ ਗੁੰਝਲਦਾਰ ਸਵਾਲ ਉਠਾਉਂਦਾ ਹੈ।
AI ਪੱਖਪਾਤ ਆਮ ਸੰਦਰਭ
ਉਮੀਦ ਹੈ ਕਿ ਡੇਟਾ ਦੁਆਰਾ ਸੰਚਾਲਿਤ ਤਕਨਾਲੋਜੀਆਂ ਮਨੁੱਖਤਾ ਨੂੰ ਇੱਕ ਸਮਾਜ ਦੀ ਸਥਾਪਨਾ ਵਿੱਚ ਸਹਾਇਤਾ ਕਰੇਗੀ ਜਿੱਥੇ ਨਿਰਪੱਖਤਾ ਸਾਰਿਆਂ ਲਈ ਆਦਰਸ਼ ਹੈ। ਹਾਲਾਂਕਿ, ਮੌਜੂਦਾ ਹਕੀਕਤ ਇੱਕ ਵੱਖਰੀ ਤਸਵੀਰ ਪੇਂਟ ਕਰਦੀ ਹੈ. ਮਨੁੱਖਾਂ ਦੇ ਬਹੁਤ ਸਾਰੇ ਪੱਖਪਾਤ, ਜੋ ਅਤੀਤ ਵਿੱਚ ਬੇਇਨਸਾਫ਼ੀ ਦਾ ਕਾਰਨ ਬਣੇ ਹਨ, ਹੁਣ ਐਲਗੋਰਿਦਮ ਵਿੱਚ ਪ੍ਰਤੀਬਿੰਬ ਕੀਤੇ ਜਾ ਰਹੇ ਹਨ ਜੋ ਸਾਡੇ ਡਿਜੀਟਲ ਸੰਸਾਰ ਨੂੰ ਨਿਯੰਤ੍ਰਿਤ ਕਰਦੇ ਹਨ। AI ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਇਹ ਪੱਖਪਾਤ ਅਕਸਰ ਉਹਨਾਂ ਵਿਅਕਤੀਆਂ ਦੇ ਪੱਖਪਾਤ ਤੋਂ ਪੈਦਾ ਹੁੰਦੇ ਹਨ ਜੋ ਇਹਨਾਂ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਵਿਕਸਤ ਕਰਦੇ ਹਨ, ਅਤੇ ਇਹ ਪੱਖਪਾਤ ਅਕਸਰ ਉਹਨਾਂ ਦੇ ਕੰਮ ਵਿੱਚ ਘੁਸ ਜਾਂਦੇ ਹਨ।
ਉਦਾਹਰਨ ਲਈ, 2012 ਵਿੱਚ ਇੱਕ ਪ੍ਰੋਜੈਕਟ ਨੂੰ ਲਓ ਜਿਸਨੂੰ ਇਮੇਜਨੈੱਟ ਵਜੋਂ ਜਾਣਿਆ ਜਾਂਦਾ ਹੈ, ਜਿਸਨੇ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਪ੍ਰਣਾਲੀਆਂ ਦੀ ਸਿਖਲਾਈ ਲਈ ਚਿੱਤਰਾਂ ਦੇ ਲੇਬਲਿੰਗ ਨੂੰ ਭੀੜ ਸਰੋਤ ਬਣਾਉਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ ਸੀ। ਇਸ ਡੇਟਾ 'ਤੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਇੱਕ ਵਿਸ਼ਾਲ ਨਿਊਰਲ ਨੈਟਵਰਕ ਬਾਅਦ ਵਿੱਚ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਸ਼ੁੱਧਤਾ ਨਾਲ ਵਸਤੂਆਂ ਦੀ ਪਛਾਣ ਕਰਨ ਦੇ ਯੋਗ ਸੀ। ਹਾਲਾਂਕਿ, ਨਜ਼ਦੀਕੀ ਨਿਰੀਖਣ 'ਤੇ, ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਇਮੇਜਨੈੱਟ ਡੇਟਾ ਦੇ ਅੰਦਰ ਛੁਪੇ ਪੱਖਪਾਤਾਂ ਦੀ ਖੋਜ ਕੀਤੀ। ਇੱਕ ਖਾਸ ਮਾਮਲੇ ਵਿੱਚ, ਇਸ ਡੇਟਾ 'ਤੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਇੱਕ ਐਲਗੋਰਿਦਮ ਇਸ ਧਾਰਨਾ ਪ੍ਰਤੀ ਪੱਖਪਾਤੀ ਸੀ ਕਿ ਸਾਰੇ ਸੌਫਟਵੇਅਰ ਪ੍ਰੋਗਰਾਮਰ ਗੋਰੇ ਹਨ।
ਇਸ ਪੱਖਪਾਤ ਦੇ ਨਤੀਜੇ ਵਜੋਂ ਔਰਤਾਂ ਨੂੰ ਅਜਿਹੀਆਂ ਭੂਮਿਕਾਵਾਂ ਲਈ ਨਜ਼ਰਅੰਦਾਜ਼ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ ਜਦੋਂ ਭਰਤੀ ਦੀ ਪ੍ਰਕਿਰਿਆ ਸਵੈਚਲਿਤ ਹੁੰਦੀ ਹੈ। ਪੱਖਪਾਤਾਂ ਨੇ ਡੇਟਾ ਸੈੱਟਾਂ ਵਿੱਚ ਆਪਣਾ ਰਸਤਾ ਲੱਭ ਲਿਆ ਕਿਉਂਕਿ "ਔਰਤ" ਦੀਆਂ ਤਸਵੀਰਾਂ ਵਿੱਚ ਲੇਬਲ ਜੋੜਨ ਵਾਲੇ ਵਿਅਕਤੀ ਵਿੱਚ ਇੱਕ ਵਾਧੂ ਲੇਬਲ ਸ਼ਾਮਲ ਹੁੰਦਾ ਹੈ ਜਿਸ ਵਿੱਚ ਇੱਕ ਅਪਮਾਨਜਨਕ ਸ਼ਬਦ ਸ਼ਾਮਲ ਹੁੰਦਾ ਹੈ। ਇਹ ਉਦਾਹਰਨ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਕਿਵੇਂ ਪੱਖਪਾਤ, ਭਾਵੇਂ ਜਾਣਬੁੱਝ ਕੇ ਜਾਂ ਅਣਜਾਣੇ ਵਿੱਚ, ਸਭ ਤੋਂ ਵਧੀਆ AI ਸਿਸਟਮਾਂ ਵਿੱਚ ਵੀ ਘੁਸਪੈਠ ਕਰ ਸਕਦੇ ਹਨ, ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਹਾਨੀਕਾਰਕ ਰੂੜ੍ਹੀਵਾਦ ਅਤੇ ਅਸਮਾਨਤਾਵਾਂ ਨੂੰ ਕਾਇਮ ਰੱਖਦੇ ਹਨ।
ਵਿਘਨਕਾਰੀ ਪ੍ਰਭਾਵ
ਵੱਖ-ਵੱਖ ਜਨਤਕ ਅਤੇ ਨਿੱਜੀ ਸੰਸਥਾਵਾਂ ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਦੁਆਰਾ ਡੇਟਾ ਅਤੇ ਐਲਗੋਰਿਦਮ ਵਿੱਚ ਪੱਖਪਾਤ ਨੂੰ ਦੂਰ ਕਰਨ ਦੇ ਯਤਨ ਸ਼ੁਰੂ ਕੀਤੇ ਗਏ ਹਨ। ਇਮੇਜਨੈੱਟ ਪ੍ਰੋਜੈਕਟ ਦੇ ਮਾਮਲੇ ਵਿੱਚ, ਉਦਾਹਰਨ ਲਈ, ਲੇਬਲਿੰਗ ਸ਼ਰਤਾਂ ਦੀ ਪਛਾਣ ਕਰਨ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਖਤਮ ਕਰਨ ਲਈ ਭੀੜ-ਸੋਰਸਿੰਗ ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਗਈ ਸੀ ਜੋ ਕੁਝ ਚਿੱਤਰਾਂ 'ਤੇ ਅਪਮਾਨਜਨਕ ਰੌਸ਼ਨੀ ਪਾਉਂਦੇ ਹਨ। ਇਹਨਾਂ ਉਪਾਵਾਂ ਨੇ ਪ੍ਰਦਰਸ਼ਿਤ ਕੀਤਾ ਕਿ AI ਸਿਸਟਮਾਂ ਨੂੰ ਵਧੇਰੇ ਬਰਾਬਰੀ ਲਈ ਮੁੜ ਸੰਰਚਿਤ ਕਰਨਾ ਅਸਲ ਵਿੱਚ ਸੰਭਵ ਹੈ।
ਹਾਲਾਂਕਿ, ਕੁਝ ਮਾਹਰ ਦਲੀਲ ਦਿੰਦੇ ਹਨ ਕਿ ਪੱਖਪਾਤ ਨੂੰ ਹਟਾਉਣ ਨਾਲ ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਇੱਕ ਡੇਟਾ ਸੈੱਟ ਘੱਟ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਹੋ ਸਕਦਾ ਹੈ, ਖਾਸ ਤੌਰ 'ਤੇ ਜਦੋਂ ਕਈ ਪੱਖਪਾਤ ਚੱਲ ਰਹੇ ਹਨ। ਕੁਝ ਪੱਖਪਾਤਾਂ ਤੋਂ ਛੁਟਕਾਰਾ ਪਾਉਣ ਵਾਲੇ ਇੱਕ ਡੇਟਾ ਸੈੱਟ ਵਿੱਚ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਵਰਤੋਂ ਲਈ ਲੋੜੀਂਦੀ ਜਾਣਕਾਰੀ ਦੀ ਘਾਟ ਹੋ ਸਕਦੀ ਹੈ। ਇਹ ਸਵਾਲ ਉਠਾਉਂਦਾ ਹੈ ਕਿ ਅਸਲ ਵਿੱਚ ਵਿਭਿੰਨ ਚਿੱਤਰ ਡੇਟਾ ਸੈੱਟ ਕਿਹੋ ਜਿਹਾ ਦਿਖਾਈ ਦੇਵੇਗਾ, ਅਤੇ ਇਸਦੀ ਉਪਯੋਗਤਾ ਨਾਲ ਸਮਝੌਤਾ ਕੀਤੇ ਬਿਨਾਂ ਇਸਨੂੰ ਕਿਵੇਂ ਵਰਤਿਆ ਜਾ ਸਕਦਾ ਹੈ।
ਇਹ ਰੁਝਾਨ AI ਅਤੇ ਡਾਟਾ-ਸੰਚਾਲਿਤ ਤਕਨਾਲੋਜੀਆਂ ਦੀ ਵਰਤੋਂ ਲਈ ਇੱਕ ਵਿਚਾਰਸ਼ੀਲ ਪਹੁੰਚ ਦੀ ਲੋੜ ਨੂੰ ਰੇਖਾਂਕਿਤ ਕਰਦਾ ਹੈ। ਕੰਪਨੀਆਂ ਲਈ, ਇਸਦਾ ਮਤਲਬ ਪੱਖਪਾਤ-ਖੋਜ ਸਾਧਨਾਂ ਵਿੱਚ ਨਿਵੇਸ਼ ਕਰਨਾ ਅਤੇ ਤਕਨੀਕੀ ਟੀਮਾਂ ਵਿੱਚ ਵਿਭਿੰਨਤਾ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਨਾ ਹੋ ਸਕਦਾ ਹੈ। ਸਰਕਾਰਾਂ ਲਈ, ਇਸ ਵਿੱਚ AI ਦੀ ਨਿਰਪੱਖ ਵਰਤੋਂ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਨਿਯਮਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨਾ ਸ਼ਾਮਲ ਹੋ ਸਕਦਾ ਹੈ।
AI ਪੱਖਪਾਤ ਦੇ ਪ੍ਰਭਾਵ
AI ਪੱਖਪਾਤ ਦੇ ਵਿਆਪਕ ਪ੍ਰਭਾਵਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋ ਸਕਦੇ ਹਨ:
- ਸੰਗਠਨ ਨਿਰਪੱਖਤਾ ਅਤੇ ਗੈਰ-ਵਿਤਕਰੇ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਸਰਗਰਮ ਹਨ ਕਿਉਂਕਿ ਉਹ ਉਤਪਾਦਕਤਾ ਅਤੇ ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ AI ਦਾ ਲਾਭ ਉਠਾਉਂਦੇ ਹਨ।
- ਕਿਸੇ ਪ੍ਰੋਜੈਕਟ ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ ਨੈਤਿਕ ਜੋਖਮਾਂ ਦਾ ਪਤਾ ਲਗਾਉਣ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਘਟਾਉਣ ਲਈ ਵਿਕਾਸ ਟੀਮਾਂ ਵਿੱਚ ਇੱਕ AI ਨੈਤਿਕ ਵਿਗਿਆਨੀ ਹੋਣਾ।
- ਵਿਭਿੰਨਤਾ ਦੇ ਕਾਰਕਾਂ ਜਿਵੇਂ ਕਿ ਲਿੰਗ, ਨਸਲ, ਵਰਗ ਅਤੇ ਸੱਭਿਆਚਾਰ ਨੂੰ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਧਿਆਨ ਵਿੱਚ ਰੱਖਦੇ ਹੋਏ AI ਉਤਪਾਦਾਂ ਨੂੰ ਡਿਜ਼ਾਈਨ ਕਰਨਾ।
- ਵਿਭਿੰਨ ਸਮੂਹਾਂ ਦੇ ਪ੍ਰਤੀਨਿਧਾਂ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰਨਾ ਜੋ ਕਿਸੇ ਕੰਪਨੀ ਦੇ AI ਉਤਪਾਦ ਨੂੰ ਜਾਰੀ ਕੀਤੇ ਜਾਣ ਤੋਂ ਪਹਿਲਾਂ ਇਸਦੀ ਜਾਂਚ ਕਰਨ ਲਈ ਵਰਤ ਰਹੇ ਹੋਣਗੇ।
- ਜਨਤਾ ਦੇ ਕੁਝ ਮੈਂਬਰਾਂ ਤੋਂ ਵੱਖ-ਵੱਖ ਜਨਤਕ ਸੇਵਾਵਾਂ 'ਤੇ ਪਾਬੰਦੀ ਲਗਾਈ ਜਾ ਰਹੀ ਹੈ।
- ਜਨਤਾ ਦੇ ਕੁਝ ਮੈਂਬਰ ਨੌਕਰੀ ਦੇ ਕੁਝ ਮੌਕਿਆਂ ਤੱਕ ਪਹੁੰਚ ਜਾਂ ਯੋਗਤਾ ਪ੍ਰਾਪਤ ਕਰਨ ਵਿੱਚ ਅਸਮਰੱਥ ਹਨ।
- ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲੀਆਂ ਏਜੰਸੀਆਂ ਅਤੇ ਪੇਸ਼ਾਵਰ ਸਮਾਜ ਦੇ ਕੁਝ ਮੈਂਬਰਾਂ ਨੂੰ ਦੂਜਿਆਂ ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਨਿਸ਼ਾਨਾ ਬਣਾਉਂਦੇ ਹਨ।
ਵਿਚਾਰ ਕਰਨ ਲਈ ਪ੍ਰਸ਼ਨ
- ਕੀ ਤੁਸੀਂ ਆਸ਼ਾਵਾਦੀ ਹੋ ਕਿ ਭਵਿੱਖ ਵਿੱਚ ਸਵੈਚਲਿਤ ਫੈਸਲੇ ਲੈਣਾ ਨਿਰਪੱਖ ਹੋਵੇਗਾ?
- AI ਫੈਸਲੇ ਲੈਣ ਬਾਰੇ ਕੀ ਤੁਹਾਨੂੰ ਸਭ ਤੋਂ ਜ਼ਿਆਦਾ ਘਬਰਾ ਜਾਂਦਾ ਹੈ?
ਇਨਸਾਈਟ ਹਵਾਲੇ
ਇਸ ਸੂਝ ਲਈ ਹੇਠਾਂ ਦਿੱਤੇ ਪ੍ਰਸਿੱਧ ਅਤੇ ਸੰਸਥਾਗਤ ਲਿੰਕਾਂ ਦਾ ਹਵਾਲਾ ਦਿੱਤਾ ਗਿਆ ਸੀ:
