2025년 새해가 밝았습니다 :) 연말연시 동안 안타까운 소식과 새로운 소식들이 공존했던 만큼, 새로운 한 해를 맞이하며 다양한 감정을 느끼셨을 것 같은데요. 저 역시 여러분과 같은 마음으로 새해 첫 계획들을 세우고 있습니다. 그중에서도 가장 먼저, 이렇게 올해도 MLOps insight 뉴스레터로 인사드릴 수 있게 되어 감회가 새로운데요. 지난 한 해 동안 보내주신 많은 관심 덕분에 MLOps Insight로 많은 분들과 소통할 수 있었습니다. 2025년에는 더욱 알찬 정보와 인사이트로 찾아뵐 수 있도록 노력하겠습니다! 특히, 올 한 해도 함께 성장할 수 있도록 다양한 이벤트와 소식들을 준비하고 있으니 많은 기대 부탁드립니다🙏
계속되는 생성형 AI(Generative AI)의 발전으로 GPT-4, Gemini, Claude 3.5 Sonnet 등 뛰어난 언어 모델들이 등장해 AI 활용의 가능성을 더욱 확장하고 있습니다. 올해 역시 더 빠르고 강력한 모델들이 등장할 것으로 기대되는데요. 하지만 이러한 모델들의 성능을 최대한 사용하기 위해서는 프롬프트 엔지니어링이라는 기술이 필수적이라는 점, 많은 분들이 이미 공감하고 계실 겁니다.
프롬프트 엔지니어링은 생성형 AI에게 명확한 지시를 내리기 위해 설계된 텍스트 입력 방법으로, 복잡한 파인튜닝 없이도 손쉽게 적용할 수 있어 많은 주목을 받았는데요. 특히, 프로그래밍 언어 대신 자연어로 이루어지며, 별도의 코딩 지식 없이도 누구나 활용할 수 있다는 점이 가장 큰 장점이죠. 프롬프트의 구성 요소에는 다음과 같은 것들이 포함되는데요.
작업(Task): 수행해야 할 작업의 목적을 명확히 기술.
맥락(Context): 작업을 수행하는 데 필요한 배경 정보 제공.
예시(Examples): 원하는 결과와 유사한 예시를 포함.
페르소나(Persona): AI의 역할 설정.
형식(Format): 결과물이 따라야 할 구조와 스타일.
많이 알려진 것처럼 효과적인 프롬프트를 작성하기 위해서는 구체성, 명확성, 관련성이 중요합니다. 예를 들어, “좋은 여행지를 추천해 줘”보다는 “가까운 거리에서 가격이 저렴하고 볼거리가 많은 여행지를 추천해 줘”와 같이 구체적으로 작성하면 더 나은 결과를 얻을 수 있죠. 최근 주목받고 있는 Langchain이나 LlamaIndex와 같은 오픈소스 프레임워크를 활용한 검색증강생성(RAG) 파이프라인 구축에 있어서도 언어 모델 자체의 미세조정만큼이나 효과적인 프롬프트 엔지니어링을 통해 답변 정확도를 유의미한 수준으로 향상시킬 수 있음이 입증되고 있습니다.
(출처 : Hugging Face, RAG의 중요한 요소 중 하나인 LLM Prompt )
대표적인 프롬프트 엔지니어링 기법도 살펴볼까요?
Zero-Shot과 Few-Shot 프롬프트
Zero-Shot 프롬프트: 예시 없이 질문만으로 모델이 답을 생성하도록 유도하고 일반적인 지식 평가나 새로운 문제 해결에 적합합니다.
Few-Shot 프롬프트: 몇 가지 예시를 포함해 AI가 문제를 이해하고 유사한 방식으로 답변하도록 도움을 줍니다. 예시 수에 따라 1-Shot, 2-Shot 등으로 구분되며, 더 많은 예시를 제공할수록 정확성이 높아집니다.
Chain of Thought (CoT) 프롬프트 복잡한 문제를 단계별로 나누어 해결하도록 설계된 기법입니다. CoT는 모델이 사고 과정을 명확히 표현하고, 논리적 순서를 통해 답변의 품질을 향상시킵니다.
후카츠식 프롬프트 프레임워크 일본에서 개발된 서식 기반 기법으로, 명확한 명령문과 제약조건을 설정해 원하는 결과물을 구조화합니다. 이 방식은 AI의 역할을 지정하고 입력과 출력을 명확히 구분함으로써 더욱 세밀한 제어가 가능합니다.
이처럼 프롬프트 엔지니어링은 다양한 기법을 통해 초보자도 간단한 적용을 통해 AI 성능을 극대화할 수 있습니다. 특히, 대규모 데이터셋 구축이나 많은 컴퓨팅 리소스가 필요한 파인튜닝에 비해 훨씬 비용 효율적이라는 장점이 있죠. 꾸준히 프롬프트 엔지니어링을 적용하면 AI와의 상호작용이 더욱 자연스러워지고, 이를 통해 인간의 창의성과 생산성을 한층 더 높일 수 있을 것입니다.
더욱 자세한 내용은 슈퍼브에이아이의 블로그에서 확인하실 수 있습니다! 올해도 여러분의 업무와 일상에 새로운 가치를 더할 수 있는 유익한 콘텐츠를 계속해서 전해드리겠습니다 😘
Learning & Other Insights🌟
OpenAI: 새로운 모델 발표
OpenAI는 새로운 모델 시리즈인 o3와 o3-mini를 공개했습니다. 이 모델들은 여러 분야에서 전문가 수준을 넘어섰으며, ARC-AGI 벤치마크를 "해결"했다는 평가를 받고 있다고 하는데요. 지난해 12월에 진행한 "12 Days of OpenAI"를 통해 다양한 내용을 발표했었죠. (저희 뉴스레터 지난 호에서 확인하실 수 있어요!) 또한 ChatGPT 데스크톱 앱은 이제 Notion 및 다양한 코드 편집기와의 통합 기능을 지원한다고 합니다. 링크를 통해 확인해 보세요!
Google: Gemini Flash 2.0 Thinking 모델 발표와 Veo 2 확대 소식
Google은 OpenAI의 o1 모델과 유사하게 "사고"하는 실험적 모델인 Gemini Flash 2.0 Thinking mode(사고 모드)를 선보였습니다. Google은 OpenAI와는 다르게 모델의 사고 과정을 공개하는 방식을 선택하여 관심을 끌고 있다고 합니다. 또한, 이제 더 많은 사용자가 Google의 Veo 2 모델에 접근할 수 있게 되었습니다. Twitter 타임라인의 언급 비율을 보면 10:1로 Veo 2가 OpenAI의 Sora보다 우세했다고 하는데요?! 이는 OpenAI가 플러스 사용자들에게 제공한 무제한 Sora 사용 혜택에도 불구하고 이루어진 결과여서 더욱 흥미롭게 볼 수 있을 것 같습니다. 링크들을 통해 자세히 알아보세요!
OpenAI CEO인 샘 알트먼(Sam Altman)은 OpenAI의 9년 이상의 여정을 회고하는 블로그를 공개했습니다. 그는 OpenAI가 이제 그들만의 정의로 AGI(인공지능 일반)를 구축하는 방법을 알고 있으며, 목표를 더 높게 설정해 ASI(인공지능 초지능)로 나아가고자 한다고 밝혔는데요.
Halliday에서 렌즈 없는 AR 시청 기능을 갖춘 AI 스마트 안경 공개했습니다. Halliday의 AI 스마트 안경은 스타일리시한 것만큼 기능적인 디자인으로 틀을 깼다고 하는데요. 시중에서 가장 작은 근거리 디스플레이 모듈인 DigiWindow 덕분에 이미지가 눈에 직접 투사👓된다고 합니다. 링크를 통해 확인해 보세요!
현재 슈퍼브에이아이에서는 AI, 머신러닝, SaaS, 데이터 과학 등 관련 분야에 대해 형식에 상관없이 작성해 주실 외부 필진 분들을 모집하고 있습니다. 외부 필진 분들에게는 소정의 원고료를 지급하고 있습니다. 관심이 있으면 아래 폼을 통해 신청서를 제출해 주세요. 추후 블로그 운영진이 확인 후 연락드리도록 하겠습니다.
