ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳಲ್ಲಿ ಉದಯೋನ್ಮುಖ ಕೌಶಲ್ಯಗಳ ಸಂಕ್ಷಿಪ್ತ ವಿಶ್ಲೇಷಣೆ

ಕಳೆದ ಎರಡು ದಶಕಗಳಲ್ಲಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಮೇಲಿನ ಹೆಚ್ಚಿನ ಸಂಶೋಧನೆಯು ನಿರ್ದಿಷ್ಟ ತರಬೇತಿ ಡೇಟಾ ಸೆಟ್‌ಗಳೊಂದಿಗೆ ಒಂದೇ ಕಾರ್ಯವನ್ನು ನಿರ್ವಹಿಸಲು ನರಮಂಡಲದ ತರಬೇತಿಯ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸಿದೆ. ಉದಾಹರಣೆಗೆ, ಚಿತ್ರವು ಬೆಕ್ಕನ್ನು ಹೊಂದಿದ್ದರೆ ವರ್ಗೀಕರಿಸಿ, ಲೇಖನವನ್ನು ಸಾರಾಂಶಗೊಳಿಸಿ, ಇಂಗ್ಲಿಷ್‌ನಿಂದ ಸ್ವಾಹಿಲಿಗೆ ಅನುವಾದಿಸಿ ...

ಇತ್ತೀಚಿನ ವರ್ಷಗಳಲ್ಲಿ, ಭಾಷಾ ಮಾದರಿಗಳ ಸುತ್ತ ಹೊಸ ಮಾದರಿಯು ವಿಕಸನಗೊಂಡಿದೆ: ವಾಕ್ಯದಲ್ಲಿನ ಹಿಂದಿನ ಪದಗಳನ್ನು ನೀಡಿದ ವಾಕ್ಯದಲ್ಲಿ ಮುಂದಿನ ಪದಗಳನ್ನು ಸರಳವಾಗಿ ಊಹಿಸುವ ನರ ಜಾಲಗಳು.

ಲೇಬಲ್ ಮಾಡದ ಪಠ್ಯದ ದೊಡ್ಡ ದೇಹದ ಮೇಲೆ ತರಬೇತಿ ಪಡೆದ ನಂತರ, ಒಂದು ವಾಕ್ಯವನ್ನು ಅನುಸರಿಸುವ ಪದವನ್ನು ಊಹಿಸುವಂತಹ ಅನಿಯಂತ್ರಿತ ಕಾರ್ಯಗಳನ್ನು ನಿರ್ವಹಿಸಲು ಭಾಷಾ ಮಾದರಿಗಳನ್ನು "ಆಹ್ವಾನ" ಮಾಡಬಹುದು. ಉದಾಹರಣೆಗೆ, ಇಂಗ್ಲಿಷ್ ವಾಕ್ಯವನ್ನು ಸ್ವಹಿಲಿ ಭಾಷೆಗೆ ಭಾಷಾಂತರಿಸುವ ಕಾರ್ಯವನ್ನು ಮುಂದಿನ ಪದವನ್ನು ಊಹಿಸುವಂತೆ ಮರುಹೊಂದಿಸಬಹುದು: "'ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ'ಯ ಸ್ವಾಹಿಲಿ ಅನುವಾದ ..."

ಕಾರ್ಯ-ನಿರ್ದಿಷ್ಟದಿಂದ ಕಾರ್ಯ-ಸಾಮಾನ್ಯಕ್ಕೆ

ಈ ಹೊಸ ಮಾದರಿಯು ಮಾದರಿಗಳಿಂದ ಬದಲಾವಣೆಯನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತದೆ ಕಾರ್ಯ-ನಿರ್ದಿಷ್ಟ, ಮಾದರಿಗಳಲ್ಲಿ ಒಂದೇ ಕಾರ್ಯವನ್ನು ನಿರ್ವಹಿಸಲು ತರಬೇತಿ ನೀಡಲಾಗಿದೆ ಕಾರ್ಯ-ಸಾಮಾನ್ಯ, ಇದು ವಿವಿಧ ಕಾರ್ಯಗಳನ್ನು ಮಾಡಬಹುದು. ಜೊತೆಗೆ ಮಾದರಿಗಳು ಕಾರ್ಯ-ಸಾಮಾನ್ಯ ಅವರು ತರಬೇತಿ ಡೇಟಾದಲ್ಲಿ ಸ್ಪಷ್ಟವಾಗಿ ಸೇರಿಸದ ಹೊಸ ಚಟುವಟಿಕೆಗಳನ್ನು ಸಹ ಮಾಡಬಹುದು. ಉದಾಹರಣೆಗೆ, GPT-3 ಭಾಷಾಶಾಸ್ತ್ರದ ಮಾದರಿಗಳು ಎರಡು-ಅಂಕಿಯ ಸಂಖ್ಯೆಗಳನ್ನು ಯಶಸ್ವಿಯಾಗಿ ಗುಣಿಸಬಹುದೆಂದು ತೋರಿಸಿದೆ, ಅವರು ಹಾಗೆ ಮಾಡಲು ಸ್ಪಷ್ಟವಾಗಿ ತರಬೇತಿ ಪಡೆಯದಿದ್ದರೂ ಸಹ. ಆದಾಗ್ಯೂ, ಹೊಸ ಕಾರ್ಯಗಳನ್ನು ನಿರ್ವಹಿಸುವ ಈ ಸಾಮರ್ಥ್ಯವು ನಿರ್ದಿಷ್ಟ ಸಂಖ್ಯೆಯ ನಿಯತಾಂಕಗಳನ್ನು ಹೊಂದಿರುವ ಮಾದರಿಗಳೊಂದಿಗೆ ಮಾತ್ರ ಸಂಭವಿಸಿದೆ ಮತ್ತು ಸಾಕಷ್ಟು ದೊಡ್ಡ ಡೇಟಾ ಸೆಟ್ನಲ್ಲಿ ತರಬೇತಿ ಪಡೆದಿದೆ.

ನಡವಳಿಕೆಯಂತೆ ತುರ್ತುಸ್ಥಿತಿ

ವ್ಯವಸ್ಥೆಯಲ್ಲಿನ ಪರಿಮಾಣಾತ್ಮಕ ಬದಲಾವಣೆಗಳು ಹೊಸ ನಡವಳಿಕೆಗೆ ಕಾರಣವಾಗಬಹುದು ಎಂಬ ಕಲ್ಪನೆಯನ್ನು ಕರೆಯಲಾಗುತ್ತದೆ ತುರ್ತು, ನೊಬೆಲ್ ಪ್ರಶಸ್ತಿ ವಿಜೇತ ಫಿಲಿಪ್ ಆಂಡರ್ಸನ್ ಅವರ 1972 ರ ಪ್ರಬಂಧ "ಮೋರ್ ಈಸ್ ಡಿಫರೆಂಟ್" ಮೂಲಕ ಜನಪ್ರಿಯಗೊಳಿಸಲಾದ ಪರಿಕಲ್ಪನೆ. ಭೌತಶಾಸ್ತ್ರ, ಜೀವಶಾಸ್ತ್ರ, ಅರ್ಥಶಾಸ್ತ್ರ ಮತ್ತು ಕಂಪ್ಯೂಟರ್ ವಿಜ್ಞಾನದಂತಹ ಅನೇಕ ವಿಭಾಗಗಳಲ್ಲಿ, ಸಂಕೀರ್ಣ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಹೊರಹೊಮ್ಮುವ ವಿದ್ಯಮಾನವನ್ನು ಗಮನಿಸಲಾಗಿದೆ.

ಎ ಇತ್ತೀಚಿನ ಲೇಖನ ಪ್ರಕಟಿಸಲಾಗಿದೆ ಯಂತ್ರ ಕಲಿಕೆ ಸಂಶೋಧನೆಯ ಮೇಲಿನ ವಹಿವಾಟುಗಳು, ಪ್ರಯೋಗಾಲಯ ಹೈ in ಸ್ಟ್ಯಾನ್ಫೋರ್ಡ್ ವಿಶ್ವವಿದ್ಯಾಲಯ defiದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳಲ್ಲಿ ಈ ಕೆಳಗಿನಂತೆ ಉದಯೋನ್ಮುಖ ಕೌಶಲ್ಯಗಳನ್ನು ಸಾಧಿಸುತ್ತದೆ:

ಒಂದು ಕೌಶಲ್ಯವಾಗಿದೆ ಹೊರಹೊಮ್ಮುವ ಇದು ಚಿಕ್ಕ ಮಾದರಿಗಳಲ್ಲಿ ಇಲ್ಲದಿದ್ದರೆ ಆದರೆ ದೊಡ್ಡ ಮಾದರಿಗಳಲ್ಲಿ ಇರುತ್ತದೆ.

ಕೌಶಲ್ಯಗಳ ಉಪಸ್ಥಿತಿಯನ್ನು ನಿರೂಪಿಸಲು ಹೊರಹೊಮ್ಮುತ್ತಿದೆ, ನಮ್ಮ ಲೇಖನವು GPT-3 ಬಿಡುಗಡೆಯ ನಂತರ ಕಳೆದ ಎರಡು ವರ್ಷಗಳಲ್ಲಿ ಹೊರಹೊಮ್ಮಿದ ವಿವಿಧ ಮಾದರಿಗಳು ಮತ್ತು ವಿಧಾನಗಳ ಸಂಶೋಧನೆಗಳನ್ನು ಒಟ್ಟುಗೂಡಿಸಿದೆ. ಕಾಗದವು ಪ್ರಮಾಣದ ಪ್ರಭಾವವನ್ನು ವಿಶ್ಲೇಷಿಸುವ ಸಂಶೋಧನೆಯನ್ನು ಪರಿಶೀಲಿಸಿದೆ: ವಿಭಿನ್ನ ಗಾತ್ರದ ಮಾದರಿಗಳು ವಿಭಿನ್ನ ಕಂಪ್ಯೂಟೇಶನಲ್ ಸಂಪನ್ಮೂಲಗಳೊಂದಿಗೆ ತರಬೇತಿ ಪಡೆದಿವೆ. ಅನೇಕ ಚಟುವಟಿಕೆಗಳಿಗೆ, ಮಾದರಿಯ ನಡವಳಿಕೆಯು ಸ್ಕೇಲ್‌ನೊಂದಿಗೆ ನಿರೀಕ್ಷಿತವಾಗಿ ಬೆಳೆಯುತ್ತದೆ ಅಥವಾ ಯಾದೃಚ್ಛಿಕ ಕಾರ್ಯಕ್ಷಮತೆಯಿಂದ ನಿರ್ದಿಷ್ಟ ಪ್ರಮಾಣದ ಮಿತಿಯಲ್ಲಿ ಯಾದೃಚ್ಛಿಕ ಮೌಲ್ಯಗಳಿಗಿಂತ ಹೆಚ್ಚಿನದಕ್ಕೆ ಅನಿರೀಕ್ಷಿತವಾಗಿ ಹೆಚ್ಚಾಗುತ್ತದೆ.

ಇನ್ನಷ್ಟು ತಿಳಿದುಕೊಳ್ಳಲು ಲೇಖನವನ್ನು ಓದಿ ಭಾಷಾ ಮಾದರಿಗಳಲ್ಲಿ ಉದಯೋನ್ಮುಖ ಕೌಶಲ್ಯಗಳು

ಜೇಸನ್ ವೀ ಗೂಗಲ್ ಬ್ರೈನ್‌ನಲ್ಲಿ ಸಂಶೋಧನಾ ವಿಜ್ಞಾನಿ. ರಿಷಿ ಬೊಮ್ಮಸಾನಿ ಸ್ಟ್ಯಾನ್‌ಫೋರ್ಡ್‌ನ ಕಂಪ್ಯೂಟರ್ ಸೈನ್ಸ್ ವಿಭಾಗದಲ್ಲಿ ದ್ವಿತೀಯ ಡಾಕ್ಟರೇಟ್ ವಿದ್ಯಾರ್ಥಿಯಾಗಿದ್ದು, ಅವರು ಪ್ರಾರಂಭಿಸಲು ಸಹಾಯ ಮಾಡಿದರು. ಸ್ಟ್ಯಾನ್‌ಫೋರ್ಡ್ ಸೆಂಟರ್ ಫಾರ್ ರಿಸರ್ಚ್ ಆನ್ ಫೌಂಡೇಶನ್ ಮಾಡೆಲ್ಸ್ (CRFM). ಅವರ ಅಧ್ಯಯನವನ್ನು ಓದಿ "ಎಮರ್ಜೆಂಟ್ ಸಾಮರ್ಥ್ಯಗಳು Large Language Models,", ಗೂಗಲ್ ರಿಸರ್ಚ್, ಸ್ಟ್ಯಾನ್‌ಫೋರ್ಡ್ ವಿಶ್ವವಿದ್ಯಾಲಯ, UNC ಚಾಪೆಲ್ ಹಿಲ್ ಮತ್ತು ಡೀಪ್‌ಮೈಂಡ್‌ನ ವಿದ್ವಾಂಸರ ಸಹಯೋಗದೊಂದಿಗೆ ಬರೆಯಲಾಗಿದೆ.

ಕರಡು BlogInnovazione.it