728x90

인공지능 2

인공지능, 머신러닝, 딥러닝, 뭐가 다른 걸까요?

1. 인공지능, 머신러닝, 딥러닝, 다 같은 말인가요? 여러분, 혹시 '인공지능', '머신러닝', '딥러닝'이라는 말을 들어보셨나요? 요즘 뉴스나 영화에서 정말 많이 들리는 단어들이죠. 이 세 가지가 다 같은 말이라고 생각할 수도 있지만, 사실은 서로 관련이 있으면서도 다른 의미를 가지고 있답니다. 쉽게 말해, 이 개념들은 마치 겹쳐진 동심원 같아요. 가장 큰 원이 인공지능이고, 그 안에 머신러닝이, 그리고 가장 안쪽에 딥러닝이 포함되어 있는 식이죠 . 그러니까 딥러닝은 인공지능의 한 종류이지만, 인공지능이 꼭 딥러닝만을 의미하는 건 아니랍니다 . 오늘은 이 세 가지 개념이 어떻게 다른지, 그리고 서로 어떻게 연결되는지 함께 알아볼까요? 2. 인공지능(AI)은 도대체 무엇인가요? 그럼 가장 큰 개념인 인..

Tech 2025.07.04

집에서도 LLM을 돌릴 수 있다? prima.cpp

https://arxiv.org/pdf/2504.08791 집에서 큰 인공지능 모델을 돌리는 게 왜 어려울까요? 우리가 사용하는 chatGPT나 Gemini 같은 인공지능 모델, 즉 LLM을 직접 돌려보고 싶다는 생각 해보신 적 있나요? 그렇다면 매달 구독료를 내지 않아도 될텐데 말이죠? 그런데 생각보다 쉽지 않습니다. 기존의 LLM 시스템들은 엄청나게 좋은 컴퓨터가 필요하기 때문이죠. GPU 클러스터나 아주 많은 RAM, VRAM 같은 하드웨어가 있어야만 돌아갈 수 있는 구조로 되어 있고, 이런 장비들은 일반 가정집에는 잘 없잖아요? 특히 10B가 넘는 큰 모델들은 일반 컴퓨터에서 돌리기 정말 힘들답니다. 예를 들어, 8GB RAM을 가진 맥 M1에서 14B 모델을 돌리면 토큰 하나 만드는데 10초 이..

Paper review 2025.05.17
728x90