ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ (AI) ವ್ಯವಸ್ಥೆಗಳು ದಿನದಿಂದ ದಿನಕ್ಕೆ ಹೆಚ್ಚು ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಸ್ವಾಯತ್ತತೆ ಪಡೆಯುತ್ತಿರುವ ಬೆನ್ನಲ್ಲೇ, ಅವುಗಳಿಂದ ಎದುರಾಗಬಹುದಾದ ಅಪಾಯಗಳ ಬಗ್ಗೆ OpenAIಯ ಮುಖ್ಯ ವಿಜ್ಞಾನಿ ಜಕುಬ್ ಪಚೋಕಿ (Jakub Pachocki) ಗಂಭೀರ ಎಚ್ಚರಿಕೆ ನೀಡಿದ್ದಾರೆ. ಹೆಚ್ಚು ಬುದ್ಧಿವಂತ AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ಎದುರಿಸಲು ಸದ್ಯ ಯಾರೂ ಸಂಪೂರ್ಣವಾಗಿ ಸಿದ್ಧರಾಗಿಲ್ಲ ಎಂದು ಅವರು ಹೇಳಿದ್ದಾರೆ.
ಸೆಪ್ಟೆಂಬರ್ 6ರಂದು ಪ್ರಕಟಿಸಿದ ಸುಮಾರು 3,000 ಪದಗಳ ಪ್ರಬಂಧದಲ್ಲಿ ಪಚೋಕಿ, ಶಕ್ತಿಶಾಲಿ AI ಏಜೆಂಟ್‌ಗಳನ್ನು ನಿಯಂತ್ರಿಸಲು OpenAI ಆಂತರಿಕವಾಗಿ ತಾಂತ್ರಿಕ ಪರಿಹಾರಗಳ ಮೇಲೆ ಕೆಲಸ ಮಾಡುತ್ತಿದೆ. ಆದರೆ ಇದೊಂದೇ ಸಾಕಾಗುವುದಿಲ್ಲ. AI ಅಭಿವೃದ್ಧಿಯ ವೇಗಕ್ಕೆ ಅನುಗುಣವಾಗಿ ವ್ಯಾಪಕ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳ ಅಗತ್ಯವಿದೆ ಎಂದು ಅವರು ಹೇಳಿದ್ದಾರೆ.
ಹೆಚ್ಚು ಸ್ವಾಯತ್ತತೆ ಪಡೆಯುತ್ತಿರುವ AI ಏಜೆಂಟ್‌ಗಳು ಮಾನವ ಮೇಲ್ವಿಚಾರಣೆಯಿಂದ ತಪ್ಪಿಸಿಕೊಳ್ಳಲು ಕಲಿಯುವುದು, ಕಂಪ್ಯೂಟರ್ ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಅನಧಿಕೃತವಾಗಿ ಪ್ರವೇಶಿಸುವುದು ಸೇರಿದಂತೆ ಹಲವು ಅಪಾಯಗಳನ್ನು ಸೃಷ್ಟಿಸಬಹುದು. ಹೀಗಾಗಿ AI ಅಭಿವೃದ್ಧಿಗೆ ‘ಕಡ್ಡಾಯ ಸುರಕ್ಷತಾ ಮಿತಿಗಳನ್ನು’ (mandated safety bars) ರೂಪಿಸಬೇಕು. ಇವುಗಳನ್ನು ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಸ್ವತಂತ್ರ ಪರಿಶೀಲಕರು, ಸರ್ಕಾರಿ ಸಂಸ್ಥೆಗಳು ಅಥವಾ ಅಂತಾರಾಷ್ಟ್ರೀಯ ಸಂಸ್ಥೆಗಳ ಮೂಲಕ ಜಾರಿಗೊಳಿಸಬಹುದು ಎಂದು ಪಚೋಕಿ ಹೇಳಿದ್ದಾರೆ.
ಆದರೆ AI ಸಂಶೋಧನೆಯನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ನಿಧಾನಗೊಳಿಸಬೇಕು ಎಂದು ಅವರು ಹೇಳಿಲ್ಲ. ಬದಲಿಗೆ, ಹೆಚ್ಚು ಸ್ವಯಂಚಾಲಿತವಾಗುತ್ತಿರುವ AI ಸಂಶೋಧನಾ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಹೊಸ ಅಲ್ಗಾರಿದಮ್‌ಗಳು, ಸಿದ್ಧಾಂತಗಳು ಮತ್ತು ಸುರಕ್ಷತಾ ವಿಧಾನಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಲು ಬಳಸಬೇಕು ಎಂದು ಹೇಳಿದ್ದಾರೆ.
AI ಮಾದರಿಗಳ ಅಲೈನ್‌ಮೆಂಟ್‌ (alignment) ಮತ್ತು ಮೇಲ್ವಿಚಾರಣೆಯ ಸಮಸ್ಯೆಯನ್ನು ಯಾವುದೇ AI ಕಂಪನಿಯೂ ಸಾಕಷ್ಟು ಮಟ್ಟಿಗೆ ಪರಿಹರಿಸಿಲ್ಲ ಎಂದು ಪಚೋಕಿ ಹೇಳಿದ್ದಾರೆ. ಅಂದರೆ, AIಗೆ ನೀಡಿರುವ ಸೂಚನೆಗಳನ್ನು ಅದು ಪಾಲಿಸುತ್ತದೆಯೇ ಎನ್ನುವುದಷ್ಟೇ ಅಲ್ಲ. ಹೊಸ ಹಾಗೂ ಅನಿರೀಕ್ಷಿತ ಪರಿಸ್ಥಿತಿಗಳಲ್ಲೂ ಅದು ಮಾನವ ಮೌಲ್ಯಗಳಿಗೆ ಅನುಗುಣವಾಗಿ ನಡೆದುಕೊಳ್ಳುತ್ತದೆಯೇ ಎನ್ನುವುದು ದೊಡ್ಡ ಸವಾಲಾಗಿದೆ.
ಹೆಚ್ಚು ಬುದ್ಧಿವಂತವಾಗುವ AI ವ್ಯವಸ್ಥೆಗಳು ತರಬೇತಿ ಪಡೆದ ಪರಿಸ್ಥಿತಿಗಳಿಗಿಂತ ಸಂಪೂರ್ಣ ಭಿನ್ನವಾದ ಸನ್ನಿವೇಶಗಳಲ್ಲಿ ಕೆಲಸ ಮಾಡಬೇಕಾಗುತ್ತದೆ. ಅಂತಹ ಸಂದರ್ಭದಲ್ಲಿ ಅವು ಕಲಿತ ಮೌಲ್ಯಗಳನ್ನು ಸರಿಯಾಗಿ ಅನ್ವಯಿಸುತ್ತವೆಯೇ ಎಂಬುದನ್ನು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳುವುದು ಕಷ್ಟ ಎಂದು ಅವರು ವಿವರಿಸಿದ್ದಾರೆ.
AI ಏಜೆಂಟ್‌ಗಳು ಮಾನವನಿಗಿಂತ ಹೆಚ್ಚಿನ ಸಾಮರ್ಥ್ಯ ಹೊಂದಲು ಆರಂಭಿಸಿದಂತೆ, ಅವುಗಳಿಂದ ಎದುರಾಗುವ ಅಪಾಯವೂ ಹೆಚ್ಚಾಗಲಿದೆ. ಮುಂದಿನ ದಿನಗಳಲ್ಲಿ AI ಅನ್ನು ಕೇವಲ ಒಂದು ಸಾಧನವಾಗಿ ನೋಡುವುದು ಸಾಕಾಗುವುದಿಲ್ಲ. ಕೆಲವು AI ಏಜೆಂಟ್‌ಗಳು ತಮ್ಮದೇ ಉದ್ದೇಶಗಳನ್ನು ಸಾಧಿಸಲು ಪ್ರಯತ್ನಿಸಬಹುದು. ಈ ಸಂದರ್ಭದಲ್ಲಿ ಅವು ಮನುಷ್ಯರೊಂದಿಗೆ ಮಾತುಕತೆ ನಡೆಸುವುದು, ಮೋಸ ಮಾಡುವುದು ಅಥವಾ ಬೆದರಿಕೆ ಹಾಕುವಂತಹ ವರ್ತನೆಗಳನ್ನು ತೋರಿಸುವ ಸಾಧ್ಯತೆಯೂ ಇದೆ. AI ಮೂಲಕ ಹೊಸ ಅಪಾಯಕಾರಿ ತಂತ್ರಜ್ಞಾನಗಳು, ಉದಾಹರಣೆಗೆ ಕೃತಕ ರೋಗಕಾರಕಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸುವ ಸಾಧ್ಯತೆಯೂ ಮತ್ತೊಂದು ಅಪಾಯವಾಗಿದೆ ಎಂದು ಪಚೋಕಿ ಎಚ್ಚರಿಸಿದ್ದಾರೆ,
AI ಮಾದರಿಯ ‘ಚೈನ್ ಆಫ್ ಥಾಟ್‌’ (Chain of Thought) ಎಂದರೆ ಅದು ಒಂದು ಸಮಸ್ಯೆಯನ್ನು ಪರಿಹರಿಸುವಾಗ ಬಳಸುವ ಹಂತ ಹಂತದ ತಾರ್ಕಿಕ ಪ್ರಕ್ರಿಯೆ. AIಯ ವರ್ತನೆ ಸರಿಯಾಗಿದೆಯೇ ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು OpenAI ಇದನ್ನು ಪ್ರಮುಖ ಮೇಲ್ವಿಚಾರಣಾ ಸಾಧನವಾಗಿ ಬಳಸುತ್ತಿದೆ. ಆದರೆ ಹೊಸ AI ಮಾದರಿಗಳು ತಮ್ಮ ತಾರ್ಕಿಕ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಮರೆಮಾಚುವ ಅಥವಾ ಬದಲಾಯಿಸುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಪಡೆಯುತ್ತಿವೆ. ಇನ್ನೂ ಕೆಲವು ಹೊಸ ಮಾದರಿಗಳು ತಮ್ಮ ತಾರ್ಕಿಕ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಪದಗಳಲ್ಲಿ ವ್ಯಕ್ತಪಡಿಸುವುದೇ ಇಲ್ಲ. ಹೀಗಾಗಿ AI ಒಳಗೆ ಏನು ನಡೆಯುತ್ತಿದೆ ಎಂಬುದನ್ನು ಸಂಶೋಧಕರು ಗಮನಿಸುವುದು ಕಷ್ಟವಾಗಬಹುದು. ಇದು ಮುಂದಿನ AI ಅಭಿವೃದ್ಧಿಗೆ ದೊಡ್ಡ ಅಡ್ಡಿಯಾಗುವ ಸಾಧ್ಯತೆಯಿದೆ ಎಂದು ಅವರು ಹೇಳಿದ್ದಾರೆ.
AI ತನ್ನದೇ ರೀತಿಯ ಮತ್ತೊಂದು AI ವ್ಯವಸ್ಥೆಯನ್ನು ತರಬೇತುಗೊಳಿಸುವ ಅಥವಾ ತನ್ನ ಸಾಮರ್ಥ್ಯವನ್ನು ತಾನೇ ಸುಧಾರಿಸಿಕೊಳ್ಳುವ ಹಂತವನ್ನು Recursive Self-Improvement (RSI) ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ. ಈ ಹಂತವನ್ನು ಕೃತಕ ಸಾಮಾನ್ಯ ಬುದ್ಧಿಮತ್ತೆ (AGI) ಕಡೆಗಿನ ಪ್ರಮುಖ ಬೆಳವಣಿಗೆಯಾಗಿ ಪರಿಗಣಿಸಲಾಗುತ್ತದೆ. OpenAIಯ ಆಂತರಿಕ ವಿಶ್ಲೇಷಣೆಯ ಪ್ರಕಾರ, ಮುಂದಿನ ಕೆಲವು ವರ್ಷಗಳಲ್ಲೇ AI ಈ ಹಂತವನ್ನು ತಲುಪುವ ಸಾಧ್ಯತೆಯಿದೆ. AI ಸಂಶೋಧನೆಯನ್ನು AIಯೇ ಸ್ವಯಂಚಾಲಿತವಾಗಿ ನಡೆಸಿ ತನ್ನ ಸಾಮರ್ಥ್ಯವನ್ನು ಮತ್ತಷ್ಟು ಹೆಚ್ಚಿಸಿಕೊಂಡರೆ, ಭವಿಷ್ಯದ ವೈಜ್ಞಾನಿಕ ಸಂಶೋಧನೆಯಲ್ಲಿ ಇದು ಪ್ರಮುಖ ಪಾತ್ರ ವಹಿಸಬಹುದು. ಆದರೆ AI ತನ್ನದೇ ಅಭಿವೃದ್ಧಿಯನ್ನು ವೇಗವಾಗಿ ನಡೆಸುವ ಸಾಮರ್ಥ್ಯ ಪಡೆಯುವುದು ಅಪಾಯರಹಿತವಲ್ಲ. ಮಾನವರು AIಯ ಮುಂದಿನ ಅಭಿವೃದ್ಧಿಯ ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ನಿರಂತರವಾಗಿ ಭಾಗಿಯಾಗಿರುವಂತೆ ನೋಡಿಕೊಳ್ಳುವುದು ಮತ್ತು ಅಂತಿಮವಾಗಿ ಭವಿಷ್ಯ ಮಾನವರ ನಿಯಂತ್ರಣದಲ್ಲೇ ಉಳಿಯುವಂತೆ ಮಾಡುವುದು ಅತ್ಯಂತ ಮುಖ್ಯ ಎಂದು ಪಚೋಕಿ ಹೇಳಿದ್ದಾರೆ.
ಇದನ್ನೂ ಓದಿ: ಎಂಟ್ರಿ ಲೆವೆಲ್ ಕೆಲಸಗಳಿಗೂ ಕಾಲಿಟ್ಟ AI; ಚೀನಾದ ಹೊಸ ಪದವೀಧರರಿಗೆ ಉದ್ಯೋಗ ಹುಡುಕುವುದೇ ದುಸ್ತರ!
AI ಅಭಿವೃದ್ಧಿ ಗರಿಷ್ಠ ವೇಗದಲ್ಲಿ ಮುಂದುವರಿಯುವ ಮೊದಲು, ಸುರಕ್ಷತಾ ಮಾನದಂಡಗಳ ಬಗ್ಗೆ ಒಮ್ಮತ ಮೂಡಬೇಕು. AI ಅಭಿವೃದ್ಧಿಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ಅಂತಾರಾಷ್ಟ್ರೀಯ ಮಟ್ಟದಲ್ಲಿ ಸಮನ್ವಯ ಸಾಧಿಸುವುದು ಸರ್ಕಾರಗಳ ಪ್ರಮುಖ ಆದ್ಯತೆಯಾಗಬೇಕು. ಸುರಕ್ಷತಾ ಮಾನದಂಡಗಳು ರೂಪುಗೊಳ್ಳುವವರೆಗೆ AI ಅಭಿವೃದ್ಧಿಯಲ್ಲಿ ಸ್ವಯಂಪ್ರೇರಿತ ನಿಧಾನಗತಿಯ ಕ್ರಮಗಳು ಸಾಮಾನ್ಯವಾಗಬೇಕು ಎಂದು ಅವರು ಆಶಿಸಿದ್ದಾರೆ.
ಪಚೋಕಿಯ ಪ್ರಬಂಧವನ್ನು OpenAI ಸಿಇಒ ಸ್ಯಾಮ್ ಆಲ್ಟ್‌ಮನ್ ಕೂಡ ಹಂಚಿಕೊಂಡಿದ್ದು, ಅದನ್ನು ‘ಅತ್ಯಂತ ಪ್ರಮುಖವಾದ ಬರಹ’ ಎಂದು ಹೇಳಿದ್ದಾರೆ. ಈ ಎಚ್ಚರಿಕೆ ಹೊರಬಂದಿರುವುದು OpenAIಯ AI ಏಜೆಂಟ್‌ಗಳು ಬಾಹ್ಯ ಕಂಪ್ಯೂಟರ್ ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಪ್ರವೇಶಿಸಲು ನಡೆಸಿದ ಪ್ರಯತ್ನಗಳ ಬಗ್ಗೆ ಕಂಪನಿಯ ಮೇಲೆ ಟೀಕೆಗಳು ಹೆಚ್ಚಿರುವ ಸಮಯದಲ್ಲೇ ಎಂಬುದು ಗಮನಾರ್ಹ.
