if(kakaoAI)2024에서는 37개의 세션들이 ‘AI’를 주제로 진행됩니다. 사용자의 상황을 파악하고, 플랫폼과 사람, 사물의 지능적 연결을 목표로 하는 다양한 데이터 기반의 서비스를 개발하며 겪은 다양한 이야기를 공유합니다. AI Agent, AI Service, AI Platform, AI Native, Multimodal AI, AI Responsibility, AI Safety 등, 다양한 카테고리로 카카오 AI의 현재와 미래를 만나보세요.

DAY 1, 10월 22일 화요일

[AI Agent]

나의 컨텍스트를 아는 친구, Context-Aware AI Mate (이혜련)
Context-Aware AI Mate는 사용자의 컨텍스트를 깊이 이해하는 지능형 서비스 플랫폼으로, AI Mate가 주요한 정보를 기억하는 메모리를 통해 사용자를 잘 이해하는 서비스를 제공하기 위해 연구하고 있는 과정을 공유 합니다.

트랙: TRACK 100
시간: 13:00 ~ 13:20
장소: B3F Growing Hall(live)

[AI Service]

카카오i를 통한 AIOT 서비스의 사례와 미래 (김덕형, 김진호)
카카오i의 AIOT 플랫폼 구조와 현재 상태, 향후 방향, 그리고 개발 과정에서의 고민을 공유합니다. 사람과 사물이 경계 없이 연결되는 지능화된 사물인터넷(AIOT) 구현 방안을 설명합니다.

트랙 : TRACK 100
시간 : 13:20 ~ 13:40
장소 : B3F Growing Hall(live)

데이터 분석과 머신러닝을 통한 유저 방문 맛집 발굴하기 (유효나, 양명한)
카카오맵 데이터를 활용하여 유저의 방문 맛집을 추정하는 문제를 어떻게 해결했는지 공유합니다. 정답이 없는 문제에 대한 접근 방식과 해결 과정을 상세히 설명합니다.

트랙 : TRACK 100
시간 : 14:00 ~ 14:40
장소 : B3F Growing Hall(live)

최애 작품 이용권 선물해 주는 ‘Helix 푸시’ 개발기 (이윤형, 이여운)
유저가 선호하는 작품의 이용권을 선물하는 ‘Helix 푸시’ 서비스를 위한 추천 모델 개발 과정을 공유합니다. 미열람작과 기열람작 추천 모델로 나누어 개발한 경험과 문제 해결 과정을 설명합니다.

트랙 : TRACK 100
시간 : 15:00 ~ 15:40
장소 : B3F Growing Hall(live)

지연 시간 순삭! LLM 추론 구조와 효율적 애플리케이션 설계 (오주원)
LLM의 시퀀스 생성 메커니즘을 분석하여 효율적인 활용 방안을 제시하고, 이를 통해 애플리케이션의 지연 시간을 최소화하는 방법을 탐구합니다. 캐릭터 페르소나 구현 경험을 바탕으로 실시간 응답 애플리케이션의 성능 향상 전략을 소개합니다.

트랙 : TRACK 100
시간 : 16:00 ~ 16:40
장소 : B3F Growing Hall(live)

문서 검토는 이제 Document AI로 한방에! (황세윤)
AI 리서치 엔지니어 없이 백엔드 개발자가 문서를 자동으로 인식하는 Document AI를 개발하여 보험 서비스에 적용한 사례를 공유합니다. 구현 방법과 개선 방향을 설명합니다.

트랙 : TRACK 100
시간 : 17:00 ~ 17:20
장소 : B3F Growing Hall(live)

[AI Platform]

Kakao AI Platform : AI 서비스의 품질은 높이고, 개발은 빠르게 (홍석용)
카카오의 전사적 AI 개발과 운영을 위한 Kakao AI Platform (KAP)을 소개합니다. AI Ops에 필요한 핵심 기능들(Store, Serving, Training, Agent)을 통합 제공하는 이 플랫폼은 AI 기술의 빠른 확산과 업무 생산성 향상에 크게 기여한 스토리를 자세히 공유합니다.

트랙 : TRACK 301
시간 : 13:00 ~ 13:40
장소 : 1F Conference room 1

메시지 광고 추천 딥러닝 인퍼러스 서버 개선 - Jvm Onnx Runtime에서 Nvidia Triton 도입까지 (박채운, 신지영)
일간 500개 이상의 모델을 서빙하는 메시지 광고 추천 인퍼런스 서버의 성능과 MLOps 요소를 고려하여 개선한 이야기를 소개 합니다. 메시지 광고 추천 시스템, LLM으로 발전하는 메시지 광고 부터 인퍼런스 서버 한계에 대한 분석 및 Nvidia Triton 도입과 문제 해결, 향후 계획 등에 대해 공유합니다.

트랙 : TRACK 301
시간 : 14:00 ~ 14:40
장소 : 1F Conference room 1

카카오 광고 AI 추천 MLOps 아키텍처 - Feature Store편(이희준, 오영민)
광고추천 조직의 Ai MLOps - Yggdrasil 시스템 중 Feature Store 플랫폼에 대해서 소개합니다. 데이터 사이언티스트 친화적으로 구축하여 학습 및 추론 요구사항을 만족시키고, 효율적이며 일관적인 피처 관리를 달성한 점을 중점적으로 공유 합니다.

트랙 : TRACK 301
시간 : 15:00 ~ 15:40
장소 : 1F Conference room 1

LLM 서빙하기 (이상은, 박진훈)
카카오페이에서 LLM 서빙 프레임워크를 도입한 경험과 성능 최적화 기술을 공유합니다. 왜 LLM 서빙 프레임워크가 필요한지, 어떤 기준으로 선정했는지 등을 상세히 설명합니다.

트랙 : TRACK 301
시간 : 16:00 ~ 16:20
장소 : 1F Conference room 1

Media & AI 가속기를 탑재한 카카오클라우드의 Video Instance 활용기 (김민주)
AMD의 U30, MA35D (Media 가속기)와 V70 (AI 가속기)를 활용한 비디오 스트리밍 및 Vision AI 적용 사례를 공유합니다. 저지연 멀티스트림 트랜스코딩과 실시간 스트리밍 구현 방법을 소개합니다.

트랙 : TRACK 301
시간 : 16:20 ~ 16:40
장소 : 1F Conference room 1

카카오클라우드 MLOps 활용 방안 소개 (진은용)
MLOps(Machine Learning Operation)에 대한 주요 개념을 전달하고, 카카오클라우드의 MLOps를 활용 서비스에 연계한 프로세스 및 주요 특징 등을 소개 합니다. 기반 기술을 활용하여 시스템 이상 징후를 실시간으로 탐지하고 대응 속도를 향상 시킨 활용 예제를 이야기 합니다.

트랙 : TRACK 301
시간 : 17:00 ~ 17:20
장소 : 1F Conference room 1

[AI Native]

AI Agent 기반 스마트 AI 마이 노트 (이동준, 최진원)
Jira, Wiki 등의 업무 관리 시스템에서 정보를 추출하여 OKR 기반으로 성과 노트를 자동으로 작성해주는 사내 서비스를 개발했습니다. 이는 업무 효율성을 크게 향상시킨 스토리를 공유합니다.

트랙 : TRACK 302
시간 : 15:00 ~ 15:40
장소 : 1F Conference room 2

업무 효율화를 위한 카카오 사내봇 개발기 (이혜림, 이재윤)
카카오 내의 방대한 데이터에서 필요한 정보를 빠르게 찾아주는 '0depth 사내봇’을 개발했습니다. RAG(Retrieval-Augmented Generation) 성능 향상을 위한 검색 기법, LLM 파인튜닝 등 전 과정을 상세히 설명합니다.

트랙 : TRACK 302
시간 : 16:00 ~ 16:40
장소 : 1F Conference room 2

공공데이터를 활용한 RAG 기술 구현 및 프레임워크 소개 (김도윤)

LLM 응답의 신뢰도를 높이기 위한 방법론으로 활용되는 RAG를 효과적으로 구현하기 위한 방법들을 탐구 하면서 얻은 문제 해결 방법론을 토대로. 이를 효과적으로 구현하기 위해 필요한 구조 및 데이터 가공방식을 소개합니다. 또한 관련 데모를 함께 진행, 공유 합니다.

트랙 : TRACK 201
시간 : 16:00 ~ 16:40
장소 : B1F Team room 1,2

[Multimodal AI]

이미지까지 이해하는 Multimodal LLM의 학습 방법 밝혀내기 (강우영)
GPT-4v, GPT-4o와 같은 멀티모달 LLM에 대한 관심이 급증하고 있습니다. 카카오는 자체 멀티모달 LLM을 개발하여 CVPR 2024에서 하이라이트 논문으로 선정되었습니다. 이 과정에서 얻은 인사이트와 노하우를 공유합니다.

트랙 : TRACK 201
시간 : 13:00 ~ 13:40
장소 : B1F Team room 1,2

나만의 프로필 이미지를 만드는 Personalized T2I 모델 개발기 (이창화)
카카오의 Personalized Text to Image 연구를 통해 고품질 인물 이미지 생성 기술을 개발했습니다. Diffusion 모델의 학습 과정과 평가 방법, 그리고 이 과정에서 마주한 도전 과제와 한계점을 살펴봅니다.

트랙 : TRACK 201
시간 : 14:00 ~ 14:40
장소 : B1F Team room 1,2

생성형 AI를 활용한 개체명 인식(NER) (성기훈)
비정형 의료 데이터(영상검사기록지, 병리검사기록지 등)에서 중요 정보를 추출하기 위해 생성형 AI를 활용한 NER(Named Entity Recognition) 기술을 개발했습니다. 이를 통해 잠들어 있던 중요한 의료 정보를 가치 있게 만드는 방법을 소개합니다.

트랙 : TRACK 201
시간 : 15:00 ~ 15:40
장소 : B1F Team room 1,2

LLM으로 음성인식 성능 개선하기 (이지혜, 서혜지)
카카오는 LLM(Large Language Model)을 E2E 음성인식기에 적용하여 성능을 크게 향상시켰습니다. 하지만 디코딩 속도 저하 문제에 직면하였으며, 이를 해결하기 위해 LLM 디코더의 언어 능력을 E2E 음성인식기로 전이시켜 연산량은 유지하면서 인식률을 높이는 방법을 개발한 스토리를 공유합니다.

트랙 : TRACK 201
시간 : 17:00 ~ 17:20
장소 : B1F Team room 1,2

[AI Responsible & AI Safety]

최적의 LLM을 선택하는 방법 : DUO (오주영, 김현규)
카카오뱅크에서 개발한 자체 평가 프레임워크와 언어 모델(LLM) 평가 기준 내재화 경험을 공유합니다. 이를 통해 타겟 서비스에 적합한 LLM을 선정하는 과정을 소개합니다.

트랙 : TRACK 302
시간 : 13:00 ~ 13:40
장소 : 1F Conference room 2

AI를 설명하면서 속도도 빠르게 할 순 없을까? SHAP 가속화 이야기(feat. 산학협력) (유예근, 이현근)
KAIST 설명가능 인공지능 연구센터(XAIC)와의 산학협력을 통해 카카오뱅크에서 사용 중인 설명 가능한 인공지능을 개선한 성과와 경험을 공유합니다.

트랙 : TRACK 302
시간 : 14:00 ~ 14:40
장소 : 1F Conference room 2

Kakao AI Safety Initiative : AI Safety 실현을 위한 카카오의 노력 (김경훈)
카카오의 AI Safety 이니셔티브를 포함, 이용자에게 ‘안전한 AI 서비스’를 제공하기 위한 노력을 소개합니다.

트랙 : TRACK 202
시간 : 13:00 ~ 13:40
장소 : B1F Team room 3,4,5

그래프 기반 악성 유저군 탐지 : 온라인 광고 도메인에서의 적용 (변장현, 강혁)
매체 간의 공통 방문 그래프를 활용해 온라인 광고 생태계에서 어뷰징 유저군을 자동으로 탐지하는 기술을 소개합니다. 악성 매체들의 커뮤니티를 자동으로 필터링하는 방법과 예외 사례 처리 방안을 다룹니다.

트랙 : TRACK 202
시간 : 14:00 ~ 14:40
장소 : B1F Team room 3,4,5

이 문자가 스미싱인 이유는? - 스미싱 탐지를 위한 LLM 개발 및 평가 (한대희, 이윤승)
카카오뱅크에서 SLM(Small Language Model)을 fine-tuning하여 스미싱 판별 정확도를 높이고 유용한 판단근거를 생성하는 모델 개발 과정을 소개합니다.

트랙 : TRACK 202
시간 : 15:00 ~ 15:40
장소 : B1F Team room 3,4,5

FSD에 지속 성장하는 ML 적용 이야기 (이용희, 류선진)
지속 성장하는 ML을 이상거래사기탐지에 적용한 경험을 공유합니다. 빠르게 변화하는 사고 트렌드에 대응하기 위한 모델 및 시스템 개발 내용을 설명합니다.

트랙 : TRACK 202
시간 : 16:00 ~ 16:20
장소 : B1F Team room 3,4,5

AI를 통해 스팸을 대응하는 카카오의 노력 (오창화, 조혜연)
LLM과 LMM(Language-and-Vision Model)을 활용하여 스팸 콘텐츠 분류의 효율성을 높이는 방법을 소개합니다. AI 기반 모니터링 및 라벨링 시스템이 콘텐츠 검수자의 판단을 어떻게 지원하는지 설명합니다.

트랙 : TRACK 202
시간 : 16:20 ~ 16:40
장소 : B1F Team room 3,4,5

DAY 2, 10월 23일 수요일

[AI Platform]

밑바닥부터 시작하는 LLM 개발기 (김보섭, 온경운)
카카오의 자체 대규모 언어 모델(LLM) 개발 과정과 도전 과제, 해결 경험을 소개합니다. 데이터 수집과 전처리, LLM의 pre-training과 post-training을 거친 모델 개발 전반을 공유하며, 그 과정에서 마주한 주요 문제와 해결 방안에 대해 살펴보는 기술을 이야기 합니다.

트랙 : TRACK 100
시간 : 15:00 ~ 15:40
장소 : B3F Growing Hall(live)

빠르고 비용 효율적으로 LLM 서빙하기 (양정석)
경제적인 LLM 서비스 개발을 목표로 LLM의 추론 비용을 최적화하기 위해 진행한 다양한 고민과 실험 내용을 기반으로, 비용 효율적인 LLM 구축을 위한 실험 과정과 최적화 전략을 살펴보는 시간을 공유합니다.

트랙 : TRACK 100
시간 : 16:00 ~ 16:20
장소 : B3F Growing Hall(live)

[AI Native]

CodeBuddy와 함께하는 AI 코드리뷰 (이호정, 신현웅)
카카오의 AI 코드 리뷰어 'CodeBuddy’는 단순히 결함을 찾는 것을 넘어, 맥락과 실용성을 중시하는 코드 리뷰를 제공합니다.이번 발표에서는 카카오의 코드 리뷰 철학, 'CodeBuddy’의 아키텍처와 주요 기능, 그리고 모델 파인튜닝을 통한 리뷰의 정확성 향상 과정을 소개합니다. 카카오의 AI Native 여정을 경험해볼 수 있는 시간을 공유합니다.

트랙: TRACK 100
시간: 13:00 ~ 13:40
장소: B3F Growing Hall(live)

AI Assistant와 통합 지식베이스를 통한 AI Native Company 구현 (황민호)
기업의 효율성과 생산성을 높이기 위해 AI 기술 도입은 필수적입니다. 이번 발표는 사내 시스템에 AI 기능을 접목해 업무 효율성을 극대화하는 과정을 소개합니다. AI Assistant와 통합 지식베이스를 구축하여 다양한 업무 도구와 시스템을 연동하고, 지능적 검색 및 자동화 기능을 제공하는 스마트 환경을 구축하는 방법을 공유합니다.

트랙 : TRACK 100
시간 : 14:00 ~ 14:40
장소 : B3F Growing Hall(live)

광고 소재 심사 과정에서 AI를 도입하여 광고 서비스 생산성 향상시키기 (백수희, 이상헌)
광고 소재 심사 과정에 AI 모델을 활용해 심사 가이드라인에 부적합한 소재를 자동으로 분류하는 프로세서 도입 과정을 소개합니다. 또한, 모델의 지속적 학습이 가능한 워크플로우를 구축해 업무 생산성을 극대화한 사례를 공유하는 기술 스토리를 공유합니다.

트랙 : TRACK 100
시간 : 16:40 ~ 17:00
장소 : B3F Growing Hall(live)

AI기반 광고 콘텐츠 모니터링 기술 개발기 (민규식)
부적절한 광고소재 콘텐츠의 모니터링을 위해 사용한 이미지-텍스트 유사도 도출 모델의 소개와 학습 과정을 이야기 하며, 이를 고도화하기 위한 기술 개발 과정과, 기반 기술을 활용한 응용 사례를 공유합니다.

트랙 : TRACK 100
시간 : 17:00 ~ 17:20
장소 : B3F Growing Hall(live)

DAY 3, 10월 24일 목요일

[AI Platform]

서비스에 LLM 부스터 달아주기:요약부터 AI Bot까지 (장원준)
카카오에서 진행한 LLM 학습 및 서빙 과정과 그 결과를 소개합니다. LLM을 요약 등 특정 task에 적용하는 것부터 AI Bot 서비스로 발전시키는 과정에서 단계별로 발생한 기술적 이슈들을 어떻게 해결했는지 공유합니다.

트랙: TRACK 100
시간: 13:00 ~ 13:40
장소: B3F Growing Hall(live)

‘선물하기 와인 탐험’ LLM 대화형 서비스 개발자 (국정우, 박영준, 이수민)
사용자 대화를 바탕으로 선물하기 와인 상품을 추천하는 LLM 대화형 서비스 구현 사례를 소개합니다. 와인 픽업 서비스를 더욱 재미있고 자유롭게 사용할 수 있는 톡 서비스를 목표로, LLM 기반 와인 상품 추천 서비스의 개발 및 출시 경험을 공유하며, 대화 흐름 제어 아키텍처와 실제 상품 검색에 사용한 RAG 기법을 다루는 기술을 이야기 합니다.

트랙 : TRACK 100
시간 : 14:00 ~ 14:40
장소 : B3F Growing Hall(live)

FunctionChat-Bench: 도구 연결 대화에서의 언어 모델 생성 능력 평가 (이신복)
Function Call은 언어 모델과 외부 도구를 연결해 실시간 정보를 이용하거나 실세계 동작을 수행하도록 하는 기술입니다. 외부 도구를 사용하는 한국어 대화 환경에서 Function Call 성능을 다면적으로 평가하기 위해 개발한 FunctionChat-Bench를 소개하는 기술을 공유합니다.

트랙 : TRACK 100
시간 : 15:00 ~ 15:40
장소 : B3F Growing Hall(live)

선물하기 럭스 리뷰 카드 분류 모델 개발기 (이수민)
선물하기 럭스 리뷰 카드 추천 구좌에서, 리뷰 분류 자연어 모델 개발을 내재화한 이유와 과정을 소개하며, 그 속에서 마주쳤던 고민들과 적용했던 방법들을 공유합니다.

트랙 : TRACK 100
시간 : 16:00 ~ 16:20
장소 : B3F Growing Hall(live)

[AI Service]

생성형 AI 기반의 웹툰 미리 보기 ‘Helix 쇼츠’ 개발기 (송근욱)
'Helix 숏츠’는 웹툰 미리보기 서비스로, 다양한 AI 기술을 활용하여 개발되었습니다. 개발 과정에서 사용된 AI 기술과 그 적용 방법을 소개하며, 프로젝트 진행 중 겪은 경험과 노하우를 공유합니다.

트랙 : TRACK 100
시간 : 16:20 ~ 16:40
장소 : B3F Growing Hall(live)

관련 글 목록

if(kakaoAI)2024, AI 기술 세션 소개