ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಪಕ್ಷಪಾತ: ಯಂತ್ರಗಳು ನಾವು ನಿರೀಕ್ಷಿಸಿದಷ್ಟು ವಸ್ತುನಿಷ್ಠವಾಗಿಲ್ಲ

• ಲೇಖಕ ಬಗ್ಗೆ:
• ಲೇಖಕ ಹೆಸರು

  ಕ್ವಾಂಟಮ್ರನ್ ದೂರದೃಷ್ಟಿ
• ಫೆಬ್ರವರಿ 8, 2022

ಒಳನೋಟ ಸಾರಾಂಶ

ದತ್ತಾಂಶ-ಚಾಲಿತ ತಂತ್ರಜ್ಞಾನಗಳು ನ್ಯಾಯಯುತ ಸಮಾಜವನ್ನು ಬೆಳೆಸುವ ಭರವಸೆಯನ್ನು ಹೊಂದಿದ್ದರೂ, ಅವುಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಮಾನವರು ಹೊಂದಿರುವ ಅದೇ ಪಕ್ಷಪಾತಗಳನ್ನು ಪ್ರತಿಬಿಂಬಿಸುತ್ತವೆ, ಇದು ಸಂಭಾವ್ಯ ಅನ್ಯಾಯಗಳಿಗೆ ಕಾರಣವಾಗುತ್ತದೆ. ಉದಾಹರಣೆಗೆ, ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ (AI) ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿನ ಪಕ್ಷಪಾತಗಳು ಅಜಾಗರೂಕತೆಯಿಂದ ಹಾನಿಕಾರಕ ಸ್ಟೀರಿಯೊಟೈಪ್‌ಗಳನ್ನು ಹದಗೆಡಿಸಬಹುದು. ಆದಾಗ್ಯೂ, AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ಹೆಚ್ಚು ಸಮಾನವಾಗಿಸಲು ಪ್ರಯತ್ನಗಳು ನಡೆಯುತ್ತಿವೆ, ಆದರೂ ಇದು ಉಪಯುಕ್ತತೆ ಮತ್ತು ನ್ಯಾಯೋಚಿತತೆಯ ನಡುವಿನ ಸಮತೋಲನ ಮತ್ತು ಟೆಕ್ ತಂಡಗಳಲ್ಲಿ ಚಿಂತನಶೀಲ ನಿಯಂತ್ರಣ ಮತ್ತು ವೈವಿಧ್ಯತೆಯ ಅಗತ್ಯತೆಯ ಬಗ್ಗೆ ಸಂಕೀರ್ಣ ಪ್ರಶ್ನೆಗಳನ್ನು ಹುಟ್ಟುಹಾಕುತ್ತದೆ.

AI ಪಕ್ಷಪಾತ ಸಾಮಾನ್ಯ ಸಂದರ್ಭ

ದತ್ತಾಂಶದಿಂದ ಚಾಲಿತ ತಂತ್ರಜ್ಞಾನಗಳು ಎಲ್ಲರಿಗೂ ನ್ಯಾಯಯುತವಾದ ಸಮಾಜವನ್ನು ಸ್ಥಾಪಿಸುವಲ್ಲಿ ಮಾನವೀಯತೆಗೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ ಎಂಬುದು ಆಶಯ. ಆದಾಗ್ಯೂ, ಪ್ರಸ್ತುತ ವಾಸ್ತವವು ವಿಭಿನ್ನ ಚಿತ್ರವನ್ನು ಚಿತ್ರಿಸುತ್ತದೆ. ಹಿಂದೆ ಅನ್ಯಾಯಗಳಿಗೆ ಕಾರಣವಾದ ಮಾನವರು ಹೊಂದಿರುವ ಅನೇಕ ಪಕ್ಷಪಾತಗಳು ಈಗ ನಮ್ಮ ಡಿಜಿಟಲ್ ಜಗತ್ತನ್ನು ನಿಯಂತ್ರಿಸುವ ಅಲ್ಗಾರಿದಮ್‌ಗಳಲ್ಲಿ ಪ್ರತಿಬಿಂಬಿಸುತ್ತಿವೆ. AI ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿನ ಈ ಪಕ್ಷಪಾತಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಈ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸುವ ವ್ಯಕ್ತಿಗಳ ಪೂರ್ವಾಗ್ರಹಗಳಿಂದ ಉಂಟಾಗುತ್ತವೆ ಮತ್ತು ಈ ಪಕ್ಷಪಾತಗಳು ಆಗಾಗ್ಗೆ ಅವರ ಕೆಲಸದಲ್ಲಿ ನುಸುಳುತ್ತವೆ.

ಉದಾಹರಣೆಗೆ, 2012 ರಲ್ಲಿ ಇಮೇಜ್‌ನೆಟ್ ಎಂದು ಕರೆಯಲ್ಪಡುವ ಯೋಜನೆಯನ್ನು ತೆಗೆದುಕೊಳ್ಳಿ, ಇದು ಯಂತ್ರ ಕಲಿಕೆ ವ್ಯವಸ್ಥೆಗಳ ತರಬೇತಿಗಾಗಿ ಚಿತ್ರಗಳ ಲೇಬಲ್ ಅನ್ನು ಕ್ರೌಡ್‌ಸೋರ್ಸ್ ಮಾಡಲು ಪ್ರಯತ್ನಿಸಿತು. ಈ ಡೇಟಾದ ಮೇಲೆ ತರಬೇತಿ ಪಡೆದ ದೊಡ್ಡ ನರಮಂಡಲವು ತರುವಾಯ ಪ್ರಭಾವಶಾಲಿ ನಿಖರತೆಯೊಂದಿಗೆ ವಸ್ತುಗಳನ್ನು ಗುರುತಿಸಲು ಸಾಧ್ಯವಾಯಿತು. ಆದಾಗ್ಯೂ, ಹತ್ತಿರದ ಪರಿಶೀಲನೆಯ ನಂತರ, ಸಂಶೋಧಕರು ಇಮೇಜ್‌ನೆಟ್ ಡೇಟಾದಲ್ಲಿ ಅಡಗಿರುವ ಪಕ್ಷಪಾತಗಳನ್ನು ಕಂಡುಹಿಡಿದರು. ಒಂದು ನಿರ್ದಿಷ್ಟ ಪ್ರಕರಣದಲ್ಲಿ, ಈ ಡೇಟಾದ ಮೇಲೆ ತರಬೇತಿ ಪಡೆದ ಅಲ್ಗಾರಿದಮ್ ಎಲ್ಲಾ ಸಾಫ್ಟ್‌ವೇರ್ ಪ್ರೋಗ್ರಾಮರ್‌ಗಳು ಬಿಳಿ ಪುರುಷರು ಎಂಬ ಊಹೆಯ ಕಡೆಗೆ ಪಕ್ಷಪಾತವನ್ನು ಹೊಂದಿದೆ.

ನೇಮಕಾತಿ ಪ್ರಕ್ರಿಯೆಯು ಸ್ವಯಂಚಾಲಿತವಾಗಿದ್ದಾಗ ಅಂತಹ ಪಾತ್ರಗಳಿಗೆ ಮಹಿಳೆಯರನ್ನು ಕಡೆಗಣಿಸುವುದಕ್ಕೆ ಈ ಪಕ್ಷಪಾತವು ಸಂಭಾವ್ಯವಾಗಿ ಕಾರಣವಾಗಬಹುದು. "ಮಹಿಳೆ" ಚಿತ್ರಗಳಿಗೆ ಲೇಬಲ್‌ಗಳನ್ನು ಸೇರಿಸುವ ವ್ಯಕ್ತಿಯು ಅವಹೇಳನಕಾರಿ ಪದವನ್ನು ಒಳಗೊಂಡಿರುವ ಹೆಚ್ಚುವರಿ ಲೇಬಲ್ ಅನ್ನು ಒಳಗೊಂಡಿರುವುದರಿಂದ ಪಕ್ಷಪಾತಗಳು ಡೇಟಾ ಸೆಟ್‌ಗಳಲ್ಲಿ ತಮ್ಮ ದಾರಿಯನ್ನು ಕಂಡುಕೊಂಡವು. ಈ ಉದಾಹರಣೆಯು ಉದ್ದೇಶಪೂರ್ವಕ ಅಥವಾ ಉದ್ದೇಶಪೂರ್ವಕವಲ್ಲದ ಪಕ್ಷಪಾತಗಳು ಹೇಗೆ ಅತ್ಯಂತ ಅತ್ಯಾಧುನಿಕ AI ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ನುಸುಳಬಹುದು ಎಂಬುದನ್ನು ವಿವರಿಸುತ್ತದೆ, ಸಂಭಾವ್ಯವಾಗಿ ಹಾನಿಕಾರಕ ಸ್ಟೀರಿಯೊಟೈಪ್‌ಗಳು ಮತ್ತು ಅಸಮಾನತೆಗಳನ್ನು ಶಾಶ್ವತಗೊಳಿಸುತ್ತದೆ.

ಅಡ್ಡಿಪಡಿಸುವ ಪರಿಣಾಮ 

ಡೇಟಾ ಮತ್ತು ಅಲ್ಗಾರಿದಮ್‌ಗಳಲ್ಲಿನ ಪಕ್ಷಪಾತವನ್ನು ಪರಿಹರಿಸುವ ಪ್ರಯತ್ನಗಳನ್ನು ವಿವಿಧ ಸಾರ್ವಜನಿಕ ಮತ್ತು ಖಾಸಗಿ ಸಂಸ್ಥೆಗಳಾದ್ಯಂತ ಸಂಶೋಧಕರು ಪ್ರಾರಂಭಿಸಿದ್ದಾರೆ. ಇಮೇಜ್‌ನೆಟ್ ಯೋಜನೆಯ ಸಂದರ್ಭದಲ್ಲಿ, ಉದಾಹರಣೆಗೆ, ಕೆಲವು ಚಿತ್ರಗಳ ಮೇಲೆ ಅವಹೇಳನಕಾರಿ ಬೆಳಕನ್ನು ಬಿತ್ತರಿಸುವ ಲೇಬಲಿಂಗ್ ಪದಗಳನ್ನು ಗುರುತಿಸಲು ಮತ್ತು ತೆಗೆದುಹಾಕಲು ಕ್ರೌಡ್‌ಸೋರ್ಸಿಂಗ್ ಅನ್ನು ಬಳಸಲಾಯಿತು. ಈ ಕ್ರಮಗಳು AI ಸಿಸ್ಟಮ್‌ಗಳನ್ನು ಹೆಚ್ಚು ಸಮಾನವಾಗಿರುವಂತೆ ಮರುಸಂರಚಿಸಲು ನಿಜವಾಗಿಯೂ ಸಾಧ್ಯ ಎಂದು ತೋರಿಸಿವೆ.

ಆದಾಗ್ಯೂ, ಕೆಲವು ತಜ್ಞರು ಪಕ್ಷಪಾತವನ್ನು ತೆಗೆದುಹಾಕುವುದರಿಂದ ಡೇಟಾ ಸೆಟ್ ಅನ್ನು ಕಡಿಮೆ ಪರಿಣಾಮಕಾರಿಯಾಗಿಸಬಹುದು ಎಂದು ವಾದಿಸುತ್ತಾರೆ, ವಿಶೇಷವಾಗಿ ಬಹು ಪಕ್ಷಪಾತಗಳು ಆಟದಲ್ಲಿದ್ದಾಗ. ಕೆಲವು ಪಕ್ಷಪಾತಗಳಿಂದ ತೆಗೆದುಹಾಕಲಾದ ಡೇಟಾ ಸೆಟ್ ಪರಿಣಾಮಕಾರಿ ಬಳಕೆಗಾಗಿ ಸಾಕಷ್ಟು ಮಾಹಿತಿಯ ಕೊರತೆಯನ್ನು ಉಂಟುಮಾಡಬಹುದು. ನಿಜವಾದ ವೈವಿಧ್ಯಮಯ ಇಮೇಜ್ ಡೇಟಾ ಸೆಟ್ ಹೇಗಿರುತ್ತದೆ ಮತ್ತು ಅದರ ಉಪಯುಕ್ತತೆಯನ್ನು ರಾಜಿ ಮಾಡಿಕೊಳ್ಳದೆ ಅದನ್ನು ಹೇಗೆ ಬಳಸಬಹುದು ಎಂಬ ಪ್ರಶ್ನೆಯನ್ನು ಇದು ಹುಟ್ಟುಹಾಕುತ್ತದೆ.

ಈ ಪ್ರವೃತ್ತಿಯು AI ಮತ್ತು ಡೇಟಾ-ಚಾಲಿತ ತಂತ್ರಜ್ಞಾನಗಳ ಬಳಕೆಗೆ ಚಿಂತನಶೀಲ ವಿಧಾನದ ಅಗತ್ಯವನ್ನು ಒತ್ತಿಹೇಳುತ್ತದೆ. ಕಂಪನಿಗಳಿಗೆ, ಇದು ಪಕ್ಷಪಾತ ಪತ್ತೆ ಸಾಧನಗಳಲ್ಲಿ ಹೂಡಿಕೆ ಮಾಡುವುದು ಮತ್ತು ಟೆಕ್ ತಂಡಗಳಲ್ಲಿ ವೈವಿಧ್ಯತೆಯನ್ನು ಉತ್ತೇಜಿಸುವುದು ಎಂದರ್ಥ. ಸರ್ಕಾರಗಳಿಗೆ, ಇದು AI ಯ ನ್ಯಾಯಯುತ ಬಳಕೆಯನ್ನು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ನಿಯಮಗಳನ್ನು ಅನುಷ್ಠಾನಗೊಳಿಸುವುದನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ. 

AI ಪಕ್ಷಪಾತದ ಪರಿಣಾಮಗಳು

AI ಪಕ್ಷಪಾತದ ವ್ಯಾಪಕ ಪರಿಣಾಮಗಳು ಒಳಗೊಂಡಿರಬಹುದು:

• ಉತ್ಪಾದಕತೆ ಮತ್ತು ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಸುಧಾರಿಸಲು AI ಅನ್ನು ನಿಯಂತ್ರಿಸುವುದರಿಂದ ಸಂಸ್ಥೆಗಳು ನ್ಯಾಯಸಮ್ಮತತೆ ಮತ್ತು ತಾರತಮ್ಯವನ್ನು ಖಾತ್ರಿಪಡಿಸುವಲ್ಲಿ ಪೂರ್ವಭಾವಿಯಾಗಿವೆ. 
• ಯೋಜನೆಯಲ್ಲಿ ನೈತಿಕ ಅಪಾಯಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಮತ್ತು ತಗ್ಗಿಸಲು ಅಭಿವೃದ್ಧಿ ತಂಡಗಳಲ್ಲಿ AI ನೀತಿಶಾಸ್ತ್ರಜ್ಞರನ್ನು ಹೊಂದಿರುವುದು. 
• ಲಿಂಗ, ಜನಾಂಗ, ವರ್ಗ ಮತ್ತು ಸಂಸ್ಕೃತಿಯಂತಹ ವೈವಿಧ್ಯತೆಯ ಅಂಶಗಳನ್ನು ಮನಸ್ಸಿನಲ್ಲಿಟ್ಟುಕೊಂಡು AI ಉತ್ಪನ್ನಗಳನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸುವುದು.
• ಕಂಪನಿಯ AI ಉತ್ಪನ್ನವನ್ನು ಬಿಡುಗಡೆ ಮಾಡುವ ಮೊದಲು ಅದನ್ನು ಪರೀಕ್ಷಿಸಲು ಬಳಸುವ ವೈವಿಧ್ಯಮಯ ಗುಂಪುಗಳಿಂದ ಪ್ರತಿನಿಧಿಗಳನ್ನು ಪಡೆಯುವುದು.
• ಕೆಲವು ಸಾರ್ವಜನಿಕ ಸದಸ್ಯರಿಂದ ವಿವಿಧ ಸಾರ್ವಜನಿಕ ಸೇವೆಗಳನ್ನು ನಿರ್ಬಂಧಿಸಲಾಗಿದೆ.
• ಕೆಲವು ಸಾರ್ವಜನಿಕ ಸದಸ್ಯರು ಕೆಲವು ಉದ್ಯೋಗಾವಕಾಶಗಳನ್ನು ಪ್ರವೇಶಿಸಲು ಅಥವಾ ಅರ್ಹತೆ ಪಡೆಯಲು ಸಾಧ್ಯವಾಗುತ್ತಿಲ್ಲ.
• ಕಾನೂನು ಜಾರಿ ಸಂಸ್ಥೆಗಳು ಮತ್ತು ವೃತ್ತಿಪರರು ಅನ್ಯಾಯವಾಗಿ ಸಮಾಜದ ಕೆಲವು ಸದಸ್ಯರನ್ನು ಇತರರಿಗಿಂತ ಹೆಚ್ಚು ಗುರಿಯಾಗಿಸಿಕೊಂಡಿದ್ದಾರೆ. 

ಪರಿಗಣಿಸಬೇಕಾದ ಪ್ರಶ್ನೆಗಳು

• ಭವಿಷ್ಯದಲ್ಲಿ ಸ್ವಯಂಚಾಲಿತ ನಿರ್ಧಾರವು ನ್ಯಾಯಯುತವಾಗಿರುತ್ತದೆ ಎಂದು ನೀವು ಆಶಾವಾದ ಹೊಂದಿದ್ದೀರಾ?
• AI ನಿರ್ಧಾರ-ತಯಾರಿಕೆಯು ನಿಮ್ಮನ್ನು ಹೆಚ್ಚು ಆತಂಕಕ್ಕೀಡು ಮಾಡುತ್ತದೆ?