GTP? 그거 하루에 10분 쓰는걸 왜 돈주고 써?

요즘 agent 관련해서 이것저것 보다보니, SW, HW 회사 모두 빨리 많은 것들을 준비해야 살아 남을 수 있겠다라는 생각이 많이 들었습니다.

먼저, GPU를 비롯한 많은 infra들이 좀 더 탄탄하게 잘 구축이 되어야 한다고 느낍니다.

아마 시간이 흐를수록 지금보다 더 폭발적으로 workload는 늘어 가겠죠. computing resource 뿐 아니라, memory, network 그리고 storage까지 점차적으로 확장이 되어 갈 것으로 생각합니다. 기존에는 단일 모델의 max throughput 위주의 성능 자랑 위주였다면 이제 점차적으로 agent와 같은 실사용 위주, 서비스 위주로 진행이 되어가면서 KV cache를 비롯해서 폭발적으로 늘어가는 "데이터" 들을 어떻게 전송하고, 보관하고, 재사용할 것인가에 대한 이야기들이 점점 더 많아지지 않을까? 싶습니다. 지금은 모두가 가장 핫한 GPU와 HBM에 대한 이야기들만을 하고는 있지만요. 😄

그래서 infra가 잘 구축이 되어 있어야, 외부 서비스 뿐만 아니라 내부 개발자들이 많은 것들을 실험하고, 거기에서 또 발전할 수 있는 부분이 생겨나고 할 것인데, 당장 들어가는 돈이 많다고 이러한 infra들을 축소시키거나, 없애버린다면...아무리 배가 고파도 내일 심을 씨앗은 먹지 말라고 했습니다. 🤪

그리고 AI 시대에 맞게 발빠르게 업무 방식 / 사고 방식을 바꿔나가려는 사람들이 많이 필요합니다. 코딩? 그거 이제 AI가 다해주는거 아니야? 같은 말이 참이 되는 날도 언젠가는 오겠죠. 개인적으로는 사람과 AI가 함께 개발하는 구조로 생각보다 더 오래 지속되지 않을까? 하는 기대도 있습니다.

컴퓨터가 없던 시절에는 컴퓨터로 뭘 할 수 있을지 상상이라는 것 조차 할 수 없었을 것입니다. 농경시대에 HBM을 만드는 것을 상상이나 할 수 있었을까요? 🤷‍♂️

AI가 지금 우리가 하고 있는 많은 일들을 대신 해준다면, 사람들이 할 일이 없어지는 것이 아니라, 사람들은 지금은 상상조차 하지 못하는, 지금보다 훨씬 더 고도화된 일들을 하지 않을까요?

이런 시대에 일하는 방법/생각하는 방법을 빠르게 바꿔나가고, 적응해나가는 사람들이 많이 필요하다는 생각이 들었습니다. 그런 사람들이 조직에 없을 수록, 그 조직은 미래에 대한 준비를 영 좋지 않은 방향으로 하던지... 아니면 못하던지.. 그러지 않을까 싶거든요. 비단 개발자 뿐만이 아니라요. 개발과 관련 없는 많은 영역에서도 엄청난 변화들이 있을 것이니까요.

최근 들은 이야기 중 진짜 뭐라고 반응을 해야 할지 모를 정도로 놀라운 말이 있었는데요,
"GPT? 그거 하루에 10분도 안쓰는거 아니야? 공용 PC에 하나 설치하고 사람들이 다 돌려 쓰면 되지 그걸 왜 돈주고 써?" 🤯

어떻게 생각하시나요? 🫢
이제 이런 생각은 바꿔야 살아 남을 수 있는 세상이 되어 가는 것 같습니다.