(Áöµð³ÝÄÚ¸®¾Æ=ÀåÀ¯¹Ì ±âÀÚ)Á¤ºÎ¿¡¼ ÃßÁø ÁßÀÎ 'µ¶ÀÚ ÀΰøÁö´É(AI) ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨ ÇÁ·ÎÁ§Æ®'¿¡ Âü°¡ÇÑ ¾÷½ºÅ×ÀÌÁöÀÇ Áß±¹ ¸ðµ¨ µµ¿ë¡¤ÆÄ»ý ÀÇȤÀÌ Á¦±âµÈ ÈÄ ³íÀïÀÌ ±â¼ú °ø¹æ°ú °ËÁõ ±âÁØ ³íÀÇ·Î È®´ëµÇ°í ÀÖ´Ù. À̹ø »ç¾ÈÀÌ ¾÷½ºÅ×ÀÌÁö¸¦ ³Ñ¾î À̹ø?ÇÁ·ÎÁ§Æ® 'Á¤¿¹ 5ÆÀ'¿¡ ¼±¹ßµÈ °æÀï»çµé¿¡°Ôµµ ¿µÇâÀ» ¹ÌÄ¥Áö ÁÖ¸ñµÈ´Ù.
2ÀÏ ¾÷°è¿¡ µû¸£¸é ¾÷½ºÅ×ÀÌÁö´Â À̳¯ ¿ÀÈÄ 3½Ã ¼¿ï °³²¿ª Àαٿ¡¼ '¼Ö¶ó ¿ÀÇ 100B'ÀÇ °³¹ß °úÁ¤ Àü¹ÝÀ» °ËÁõÇÏ´Â °ø½Ä Çà»ç¸¦ ÁøÇàÇÒ ¿¹Á¤ÀÌ´Ù. ÀÌ ÀÚ¸®¿¡´Â ±è¼ºÈÆ ¾÷½ºÅ×ÀÌÁö ´ëÇ¥¿Í À̹ø ¸ðµ¨ °³¹ß¿¡ Âü¿©ÇÑ °ü°èÀÚ, Âü¼®
¹Ù´Ù½Å2´Ù¿î·Îµå À» Èñ¸ÁÇÑ 70¿© ¸íÀÇ ¾÷°è Àü¹®°¡µéÀÌ Âü¼®ÇÒ ¿¹Á¤ÀÌ´Ù. ¾÷½ºÅ×ÀÌÁö ÃøÀº?'¼Ö¶ó ¿ÀÇ 100B'ÀÇ Áß±¹ ¸ðµ¨ Ç¥ÀýÀ» ÁÖÀåÇÑ °í¼®Çö »çÀÌ¿À´Ð¿¡À̾ÆÀÌ ´ëÇ¥µµ °ø°³ÀûÀ¸·Î ÃÊûÇß´Ù.
±è¼ºÈÆ ¾÷½ºÅ×ÀÌÁö ´ëÇ¥ (»çÁø=Áöµð³ÝÄÚ¸®¾Æ DB)
Çѱ¹¸±°ÔÀÓÀ̹ø ÀÏÀº °í ´ëÇ¥°¡?Áö³ 1ÀÏ ±êÇãºê¸¦ ÅëÇØ ¾÷½ºÅ×ÀÌÁöÀÇ '¼Ö¶ó ¿ÀÇ 100B'ÀÇ ±â¼ú ºÐ¼® º¸°í¼¸¦ °ø°³ÇÑ °ÍÀÌ ¹ß´ÜÀÌ µÆ´Ù. '¼Ö¶ó ¿ÀÇ 100B'´Â Áö³ ´Þ?30ÀÏ ¾÷½ºÅ×ÀÌÁö°¡ 'µ¶ÀÚ AI ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨' 1Â÷ ¼º°ú ¹ßǥȸ¿¡¼ °ø°³ÇÑ ¸ðµ¨ÀÌ´Ù.
°í ´ëÇ¥´Â '¼Ö¶ó ¿ÀÇ 100B'°¡ Áß±¹ ÁöǪAIÀÇ 'GLM-4.5-¿¡¾î(A
¸ð¹ÙÀϹٴÙÀ̾߱âÇϴ¹ý ir)' ¸ðµ¨¿¡ ±â¹ÝÀ» µÐ ÆÄ»ý ¸ðµ¨À̶ó°í ÀÇȤÀ» Á¦±âÇϸç À¯°¨À» Ç¥Çß´Ù.?'µ¶ÀÚ AI ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨' ÇÁ·ÎÁ§Æ®°¡ ¿ì¸®³ª¶ó AI ÁÖ±Ç È®¸³À» À§ÇÑ ±¹°¡´ëÇ¥ AI ¼±¹ßÀüÀÎ µ¥´Ù 'ÇÁ·Ò ½ºÅ©·¡Ä¡(100% µ¶ÀÚ °³¹ß)' Áؼö°¡ °ø½Ä Âü¿© Á¶°ÇÀ¸·Î ¸í½ÃµÅ À־Ù. À̹ø ÀÇȤÀÌ »ç½ÇÀÏ °æ¿ì ¾÷½ºÅ×ÀÌÁö´Â ÀÚ°Ý ¹Ì´Þ·Î 5°³ ÆÀ Áß Ã¹ Å»¶ô 1¼øÀ§¿¡ ¿À¸£°Ô µÈ´Ù.
¹Ù´ÙÀ̾߱âºÎȰ ÀÌ¿¡ ¾÷½ºÅ×ÀÌÁö´Â °ø°³ °ËÁõȸ¸¦ °ð¹Ù·Î ¿¾î ³í¶õ ÀáÀç¿ì±â¿¡ ³ª¼¹´Ù. ƯÈ÷ À̹ø¿¡ ÇнÀ¿¡ »ç¿ëÇÑ Áß°£ üũÆ÷ÀÎÆ®(checkpoint)¿Í AI ¸ðµ¨ ÇнÀ °úÁ¤°ú ½ÇÇè °á°ú¸¦ ±â·Ï¡¤°ü¸®ÇÏ´Â µµ±¸ÀÎ '¿þÀÌÃ÷ ¾Ø ¹ÙÀ̾î½Ã½º(Weights & Biases¡¤wandb)'¸¦ ¸ðµÎ °ø°³ÇÑ´Ù°í ¹àÈ÷´Â Ãʰ¼ö¸¦ µ×´Ù. '¿þÀÌÃ÷ ¾Ø ¹ÙÀ̾î½Ã½º'´Â ºí·¢¹Ú½º¿Í À¯
»çÀÌ´ÙÄðÁ¢¼Ó¹æ¹ý »çÇÑ °ÍÀ¸·Î, ·Î±× ´©¶ô¡¤»çÈÄ Á¶ÀÛÀÌ Èûµç?°ÍÀ¸·Î ¾Ë·ÁÁ³´Ù.
'ÇÁ·Ò ½ºÅ©·¡Ä¡' °ø¹æ º»°ÝÈ¡¦'°¡ÁßÄ¡ À¯»ç¼º'ÀÌ ÀïÁ¡
À̹ø¿¡ °í ´ëÇ¥°¡ Á¦±âÇÑ ÀÇȤÀÇ ÇÙ½ÉÀº µÎ ¸ðµ¨ÀÇ °¡ÁßÄ¡ ±¸Á¶ À¯»ç¼ºÀÌ´Ù. ±×´Â °ø°³ÇÑ º¸°í¼¸¦ ÅëÇØ '¼Ö¶ó ¿ÀÇ 100B'¿Í 'GLM-4.5-¿¡¾î'ÀÇ ·¹À̾ ÆÄ¶ó¹ÌÅ͸¦ ºñ±³ÇÑ °á°ú, ½Å°æ¸Á ±¸¼º ¿ä¼Ò Áß ÇϳªÀÎ ·¹À̾î³ð(LayerNorm)¿¡¼ ¸Å¿ì ³ôÀº ¼öÁØÀÇ À¯»çµµ°¡ °üÃøµÆ´Ù°í ÁÖÀåÇß´Ù. ¶Ç À̸¦ ±Ù°Å·Î ÇÁ·Ò ½ºÅ©·¡Ä¡ ¹æ½ÄÀ¸·Î ÇнÀµÈ ¸ðµ¨À̶ó¸é ³ªÅ¸³ª±â ¾î·Á¿î ¼öÄ¡¶ó¸ç Áß±¹ ¸ðµ¨À» ±â¹ÝÀ¸·Î ÀϺΠ°¡ÁßÄ¡¸¦ º¸Á¸ÇÑ ÆÄ»ý ¸ðµ¨ÀÏ °¡´É¼ºÀ» Á¦±âÇß´Ù.
°í ´ëÇ¥´Â '¼Ö¶ó ¿ÀÇ 100B'ÀÇ ±¸µ¿ ÄÚµå ÀϺο¡¼ GLM ¸ðµ¨°ú µ¿ÀÏÇÑ ¼³Á¤ Äڵ尡 ¹ß°ßµÆ´Ù°íµµ ÁÖÀåÇß´Ù. ƯÈ÷ 'GLM-4.5-¿¡¾î'°¡ 46°³ ·¹ÀÌ¾î ±¸Á¶¸¦ °®´Â ¸ðµ¨ÀÓ¿¡µµ 48°³ ·¹ÀÌ¾î ±¸Á¶ÀÎ '¼Ö¶ó ¿ÀÇ 100B'ÀÇ Äڵ忡 GLM Àü¿ë ·¹ÀÌ¾î ¿¹¿Ü ó¸® ±¸¹®ÀÌ ³²¾Æ ÀÖ´Ù´Â Á¡À» ¹®Á¦ »ï¾Ò´Ù. ¿©±â¿¡ ³í¶õÀÌ Á¦±âµÈ ÀÌÈÄ ±êÇãºê ÀúÀå¼ÒÀÇ ¶óÀ̼±½º ÆÄÀÏ¿¡ Áß±¹ ÁöǪAI °ü·Ã ÀúÀÛ±Ç ¹®±¸°¡ º´±âµÈ Á¡ ¿ª½Ã ÀÇȤÀ» Ű¿ì´Â ´ë¸ñÀ¸·Î Áö¸ñÇß´Ù.
°í¼®Çö »çÀÌ¿À´Ð¿¡À̾ÆÀÌ ´ëÇ¥°¡ ÀÚ½ÅÀÇ ÆäÀ̽ººÏ¿¡ '¼Ö¶ó ¿ÀÇ 100B'¿¡ ´ëÇÑ ÀÇȤÀ» Á¦±âÇß´Ù. (»çÁø=°í¼®Çö »çÀÌ¿À´Ð¿¡À̾ÆÀÌ ´ëÇ¥ ÆäÀ̽ººÏ ĸó)
¾÷½ºÅ×ÀÌÁö´Â ÀÌ·¯ÇÑ ÁÖÀå¿¡ ´ëÇØ "±â¼úÀû »ç½Ç°ú ´Ù¸£´Ù"¸ç Á¤¸é ¹Ý¹ÚÇϰí ÀÖ´Ù. ȸ»ç ÃøÀº ·¹À̾î³ð À¯»ç¼º¸¸À¸·Î ¸ðµ¨ ÆÄ»ý ¿©ºÎ¸¦ ´ÜÁ¤ÇÏ´Â °ÍÀº ¹«¸®°¡ ÀÖ°í, ÄÚµå ³» ÀϺΠÀ¯»çÇÑ Ç¥Çö ¿ª½Ã ¿ÀǼҽº »ýŰ迡¼ Åë¿ëµÇ´Â °üÇàÀ̳ª ȣȯ¼º È®º¸ °úÁ¤¿¡¼ ¹ß»ýÇÒ ¼ö ÀÖ´Â ¹®Á¦¶ó´Â ÀÔÀåÀÌ´Ù. ¶óÀ̼±½º Ç¥±â º¯°æ¿¡ ´ëÇØ¼µµ ¹ýÀû °ËÅä °úÁ¤¿¡¼ÀÇ Á¤ºñ Â÷¿øÀ̶ó´Â ¼³¸íÀÌ´Ù.
µµ¿ë ´ÜÁ¤Àº À̸£´Ù¡¦¾÷°è "Á¾ÇÕ °ËÁõ ÇÊ¿ä"
¾÷°è¿Í Çа迡¼´Â À̹ø ³íÀïÀ» µÑ·¯½Î°í ½ÅÁß·ÐÀÌ µ¿½Ã¿¡ Á¦±âµÇ°í ÀÖ´Ù. ·¹À̾î³ð ÆÄ¶ó¹ÌÅÍ´Â ÃʱⰪ°ú ÇнÀ Ư¼º»ó ±¸Á¶¿Í ÇнÀ ¸ñÇ¥°¡ À¯»çÇÑ ´ë±Ô¸ð ¾ð¾î¸ðµ¨¿¡¼ ³ôÀº À¯»çµµ°¡ ³ªÅ¸³¯ ¼ö ÀÖ¾î ´ÜÀÏ ÁöÇ¥¸¸À¸·Î µµ¿ë ¿©ºÎ¸¦ ÆÇ´ÜÇϱâ´Â ¾î·Æ´Ù´Â ÁöÀûÀÌ´Ù. ½ÇÁ¦ µµ¿ë ¿©ºÎ¸¦ °¡¸®·Á¸é ¾îÅÙ¼ÇÀÇ Q¡¤K¡¤V °¡ÁßÄ¡³ª ·¹À̾î Àü¹ÝÀÇ ±¸Á¶Àû ÀÏÄ¡ ¿©ºÎ, ÇнÀ °æ·Î¿¡ ´ëÇÑ Á¾ÇÕÀûÀÎ °ËÁõÀÌ ÇÊ¿äÇÏ´Ù´Â Àǰߵµ ³ª¿Â´Ù.
¶Ç ¾÷°è¿¡¼± °í¼®Çö ´ëÇ¥ÀÇ ¹®Á¦ Á¦±â¿¡ ´ëÇØ ´ÜÀÏ ÁöÇ¥¸¸À¸·Î µµ¿ë ¿©ºÎ¸¦ ´ÜÁ¤ÇÏ´Â µ¥¿¡´Â ÇѰ谡 ÀÖ´Ù´Â ´Ù¼ö Àǰߵµ ³ª¿À°í ÀÖ´Ù. ƯÈ÷ À̽ÂÇö Æ÷ƼÅõ¸¶·ç ºÎ»çÀåÀº »çÀÌ¿À´Ð¿¡À̾ÆÀÌÀÇ ºÐ¼®ÀÌ ±â¼úÀûÀ¸·Î ÃæºÐÇÑ ±Ù°Å¸¦ °®Ãè´ÂÁö¿¡ ´ëÇØ Àǹ®À» Á¦±âÇϸç, ÇöÀç °ø°³µÈ ÀڷḦ Åä´ë·Î ¾÷½ºÅ×ÀÌÁöÀÇ 'ÇÁ·Ò ½ºÅ©·¡Ä¡' ÁÖÀå¿¡ ´õ ¹«°Ô¸¦ µÎ´Â ¸ð½ÀÀ» º¸¿´´Ù.
ÀÌ?ºÎ»çÀåÀº "ÇÁ·Ò ½ºÅ©·¡Ä¡ ¿©ºÎ´Â ¸ðµ¨ °¡ÁßÄ¡°¡ ¾î¶»°Ô Çü¼ºµÆ´ÂÁö¿¡ °üÇÑ ±â¼úÀû ¹®Á¦·Î, ¶óÀ̼±½º Ç¥±â³ª ¼Ò¹ö¸° AI ³íÀÇ´Â º°µµÀÇ Á¤Ã¥Àû ÆÇ´Ü ¿µ¿ª"À̶ó¸ç "·¹À̾î³ðÀ̳ª ÀÓº£µù°ú °°Àº º¸Á¶ ÆÄ¶ó¹ÌÅÍÀÇ À¯»ç¼ºÀº ±¸Á¶¿Í ÇнÀ ¸ñÇ¥°¡ À¯»çÇÑ ´ë±Ô¸ð ¾ð¾î¸ðµ¨(LLM)¿¡¼ Åë°èÀûÀ¸·Î ³ªÅ¸³¯ ¼ö ÀÖ´Ù"°í ¸»Çß´Ù.
±è¼ºÈÆ ¾÷½ºÅ×ÀÌÁö ´ëÇ¥°¡ 2ÀÏ ¿ÀÈÄ 3½Ã °³²¿ª Àαٿ¡¼ '¼Ö¶ó ¿ÀÇ 100B' °ø°³ °ËÁõÀ» ÇÒ °ÍÀ̶ó°í ¿¹°íÇß´Ù. (»çÁø=Áöµð³ÝÄÚ¸®¾Æ DB)
ÀÌ¿¡ °í¼®Çö ´ëÇ¥ ¿ª½Ã À̳¯ ¶Ç ´Ù¸¥ °Ô½Ã±ÛÀ» ÅëÇØ ±â¼úÀû À¯»ç¼º ¹®Á¦¿Í º°µµ·Î À̹ø »ç¾ÈÀ» ¼Ò¹ö¸° AI °üÁ¡¿¡¼ ¹Ù¶óºÁ¾ß ÇÑ´Ù´Â ÀÔÀåÀ» °Á¶ÇÏ¸ç ¾÷½ºÅ×ÀÌÁö ³í¶õ¿¡¼ ÇÑ ¹ß ¹°·¯¼´Â ¸ð½ÀÀ» º¸¿´´Ù. ±×´Â ÇØ¿Ü, ƯÈ÷ Áß±¹ ¸ðµ¨ÀÇ ÄÚµå¿Í ±¸Á¶¸¦ Àû±ØÀûÀ¸·Î ÇнÀ¡¤Âü°íÇÏ´Â ¹æ½ÄÀÌ Á¤ºÎ ÁÖµµÀÇ µ¶ÀÚ AI ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨ »ç¾÷ ÃëÁö¿¡ ºÎÇÕÇÏ´ÂÁö¿¡ ´ëÇÑ ±Ùº»ÀûÀÎ Áú¹®À» ´øÁö¸ç ±â¼úÀû µµ¿ë ¿©ºÎ¿Í´Â º°°³·Î Á¤Ã¥Àû ±âÁØ¿¡ ´ëÇÑ ³íÀǰ¡ ÇÊ¿äÇÏ´Ù°í ÁÖÀåÇß´Ù.
¾÷½ºÅ×ÀÌÁö ³í¶õ, ´Ù¸¥ Á¤¿¹ 5ÆÀ¿¡µµ '¼³¸í Ã¥ÀÓ' ºÎ´ã
Àϰ¢¿¡¼± À̹ø »ç¾ÈÀÌ ¾÷½ºÅ×ÀÌÁö ÇÑ °÷¿¡ ±×Ä¡Áö ¾Ê°í µ¶ÀÚ AI ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨ ÇÁ·ÎÁ§Æ®¿¡ Âü¿© ÁßÀÎ ´Ù¸¥ 'Á¤¿¹ 5ÆÀ'¿¡µµ ÀûÀÝÀº ¿µÇâÀ» ¹ÌÄ¥ ¼ö ÀÖ´Ù´Â °üÃøÀÌ ³ª¿Â´Ù. LG AI¿¬±¸¿ø, ³×À̹öŬ¶ó¿ìµå, NC AI, SKÅÚ·¹ÄÞ µî ´Ù¸¥ Âü¿© ±â¾÷µé ¿ª½Ã ÇâÈÄ ¸ðµ¨ °ø°³ °úÁ¤¿¡¼ °³¹ß °æ·Î¿Í ¿ÜºÎ ¸ðµ¨ Ȱ¿ë ¿©ºÎ, ÇÁ·Ò ½ºÅ©·¡Ä¡ÀÇ Á¤ÀÇ¿¡ ´ëÇØ º¸´Ù ¸íÈ®ÇÑ ¼³¸íÀ» ¿ä±¸¹ÞÀ» °¡´É¼ºÀÌ Ä¿Á³´Ù´Â Æò°¡´Ù.
Á¤ºÎÀÇ ´ëÀÀ¿¡µµ °ü½ÉÀÌ ½ò¸°´Ù. ÇöÀç µ¶ÀÚ AI ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨ ÇÁ·ÎÁ§Æ®´Â ¼º´É°ú Ȱ¿ë °¡´É¼ºÀ» Áß½ÉÀ¸·Î Æò°¡°¡ ÀÌ·ïÁ® ¿ÔÁö¸¸, À̹ø ³í¶õÀ» °è±â·Î ÇнÀ °æ·Î¿Í °³¹ß °úÁ¤¿¡ ´ëÇÑ °ËÁõ ±âÁØÀ» º¸´Ù ±¸Ã¼ÈÇØ¾ß ÇÑ´Ù´Â ¸ñ¼Ò¸®°¡ Ä¿Áö°í ÀÖ´Ù. Àϰ¢¿¡¼´Â Áß°£ üũÆ÷ÀÎÆ® Á¦ÃâÀ̳ª ÇнÀ ·Î±× °ü¸®¡¤º¸°ü Àǹ«È µî Á¦µµÀû º¸¿ÏÀÌ ÇÊ¿äÇÏ´Ù´Â ÁöÀûµµ Á¦±âµÈ´Ù.
¾÷°è °ü°èÀÚ´Â "À̹ø ³íÀïÀº ƯÁ¤ ±â¾÷ÀÇ °ø¹æÀ» ³Ñ¾î µ¶ÀÚ AI¸¦ ¾î¶² ±âÁØÀ¸·Î °ËÁõÇÒ °ÍÀÎÁö¿¡ ´ëÇÑ ½ÃÇè´ë°¡ µÇ°í ÀÖ´Ù"¸ç "¾÷½ºÅ×ÀÌÁöÀÇ °ø°³ °ËÁõ °á°ú¿¡ µû¶ó ´Ù¸¥ Âü¿© ±â¾÷µé°ú Á¤ºÎ ¿ª½Ã °³¹ß Åõ¸í¼º°ú ¼³¸í Ã¥ÀÓÀÇ ¼öÁØÀ» ´Ù½Ã ¼³Á¤ÇØ¾ß ÇÒ »óȲ¿¡ ³õÀÏ ¼ö ÀÖ´Ù"°í ¸»Çß´Ù.
ÀåÀ¯¹Ì ±âÀÚ(sweet@zdnet.co.kr)