AI 개념 · 온디바이스
온디바이스 AI란 무엇인가
새 휴대전화 광고에서 온디바이스 AI라는 말을 보고 무슨 뜻인지 찾아보고 계시다면, 이름부터 어렵게 느껴지셨을 거예요.
기기 이름과 칩 이름과 기능 이름이 한꺼번에 섞여 나와서 더 헷갈리는 말이기도 해요.
2026년 8월 기준으로 제조사 공식 안내에 적혀 있는 것만 놓고 정리해 볼게요.
한 줄로 말하면
내 기기 안의 칩으로 AI를 돌려서, 처리할 데이터가 기기 밖으로 나가지 않게 하는 방식이에요.
핵심은 “어디서 계산하느냐”예요.
같은 요약 기능이라도 내 휴대전화 안에서 계산하면 온디바이스고, 회사 서버로 보내서 계산하면 그렇지 않아요.
기능이 무엇이냐가 아니라 계산이 벌어지는 자리가 어디냐로 갈리는 말이라고 보시면 돼요.
어쩌다 이 말이 나왔나
이 말은 갑자기 나온 것이 아니라 앞 방식의 불편한 자리에서 나왔어요.
크게 세 단계로 나눠 보면 이해가 빨라요.
| 단계 | 무엇을 다뤘나 | 사람이 하는 일 |
|---|---|---|
| 기기가 다 하던 때 | 기기에 깔린 프로그램이 혼자 처리 | 기기 성능이 곧 한계였다 |
| 클라우드로 다 보내던 때 | 무거운 계산을 서버가 대신 처리 | 인터넷에 연결해야 썼다 |
| 갈라 쓰는 지금 | 가벼운 일은 기기, 무거운 일은 서버 | 어디서 처리할지 고른다 |
가운데 단계에서 성능 문제는 풀렸지만 대신 내 자료가 매번 밖으로 나가게 됐어요.
온디바이스 AI는 그 지점을 되돌리려는 흐름이에요.
성능을 포기하고 옛날로 돌아가는 것이 아니라, 나갈 필요가 없는 것은 안에서 끝내자는 쪽에 가까워요.
뜯어보면 이렇게 생겼어요
부르는 이름은 회사마다 다르지만, 필요한 조각은 대체로 넷이에요.
전용 칩. 기기 안에서 AI 계산을 맡는 부품이에요.
이 부품이 있어야 서버에 묻지 않고도 기기가 스스로 답을 만들 수 있어요.
작게 줄인 모델. 서버에 있는 큰 모델을 기기에 들어갈 크기로 줄인 것이에요.
애플은 소프트웨어 업데이트 뒤에 기기 안에서 쓸 모델이 따로 내려받아진다고 안내하고, 그동안 와이파이와 전원 연결을 유지하라고 알려 줘요.
기능이 바로 안 켜지고 한참 뒤에 켜지는 일이 생기는 이유가 여기에 있어요.
기기 안 저장. 처리할 개인 자료를 기기 안에 두는 자리예요.
삼성은 갤럭시 AI 가 쓰는 개인 데이터를 Personal Data Engine 이 모아 처리하고, 그 데이터를 KEEP 과 Knox Vault 에 암호화해 저장한다고 밝히고 있어요.
무엇을 넘길지 정하는 규칙. 기기가 감당할 일과 서버로 보낼 일을 가르는 기준이에요.
사용자 눈에는 잘 안 보이지만 실제로 온디바이스냐 아니냐를 가르는 것은 이 규칙이에요.
기기별 화면과 켜는 순서는 애플 인텔리전스와 갤럭시 AI 사용법에서 따로 다뤄요.
헷갈리기 쉬운 것
가장 흔한 오해는 “온디바이스면 완전히 오프라인”이라는 생각이에요.
지금 팔리는 제품 대부분은 그렇지 않아요.
애플은 기본 처리를 아이폰·아이패드·맥 기기 안에서 하되, 더 복잡한 요청은 애플 실리콘으로 돌아가는 서버 기반 모델을 쓴다고 밝히고 있어요.
그 서버 방식에는 프라이빗 클라우드 컴퓨트라는 이름이 붙어 있고, 사용자 데이터를 저장하지 않고 요청을 처리하는 데만 쓰며 개인정보 보호 원칙을 지켰는지 검증할 수 있다고 설명해요.
삼성 쪽도 마찬가지예요.
포토 어시스트처럼 네트워크 연결과 삼성 계정 로그인이 있어야 쓸 수 있는 기능이 있고, 그렇게 만들어진 이미지에는 워터마크가 붙어요.
유의
“AI 기능이 있다”와 “그 기능이 기기 안에서 돈다”는 서로 다른 말이에요.
제품 소개에 온디바이스라는 단어가 있어도 개별 기능마다 처리 위치가 다를 수 있으니, 기능별 안내를 따로 보시는 편이 정확해요.
또 하나, 이 말을 쓰는 범위가 사람마다 달라요.
계산이 100퍼센트 기기 안에서만 끝나는 것만 온디바이스라고 부르는 쪽이 있고, 기기를 우선 쓰고 필요할 때만 서버를 부르는 방식까지 함께 묶는 쪽이 있어요.
아직 한쪽으로 정리된 정설이 없으니, 한 회사의 설명을 유일한 정답처럼 외우기보다 “어디서 계산하느냐를 가르는 말”이라는 뼈대만 잡아 두시면 충분해요.
나한테는 무슨 의미인가
전문 용어를 다 몰라도 세 가지 자리에서 체감할 수 있어요.
첫째는 비행기 모드예요.
연결이 끊긴 상태에서도 되는 기능이 있고 안 되는 기능이 있는데, 그 경계가 대체로 기기 안에서 도는지 아닌지를 알려 줘요.
사진의 클린업 도구나 프레임 재설정처럼 기기가 맡는 편집이 있는가 하면, 앞서 본 포토 어시스트처럼 연결과 로그인이 필요한 기능도 있어요.
둘째는 개인정보예요.
기기 안에서 끝나는 처리는 자료가 밖으로 나가지 않고, 서버를 쓰는 처리는 그 회사가 무엇을 어떻게 다루는지 확인해야 해요.
어떤 자료가 어디로 가는지 챙기는 요령은 AI 개인정보 보호에 정리해 뒀어요.
셋째는 설정이에요.
삼성은 갤럭시 AI 데이터를 기기 안에서 처리할지 클라우드에서 처리할지 설정에서 고를 수 있게 해 두었어요.
개인정보 보호 설정에서 가장 안전한 선택지를 고르거나 나중에 바꿀 수도 있어요.
자주 묻는 질문
온디바이스면 인터넷 없이 다 되나요? 아니요.
지금 제품 대부분은 기기와 서버를 섞어 쓰기 때문에 기능마다 달라요.
연결 없이 되는지 궁금하면 비행기 모드에서 그 기능만 한 번 눌러 보는 것이 제일 빨라요.
서버로 넘어가면 내 자료가 남나요? 회사 설명을 봐야 해요.
애플은 서버 기반 모델을 쓸 때 사용자 데이터를 저장하지 않고 요청 처리에만 쓴다고 밝히고 있어요.
삼성은 개인 데이터를 KEEP 과 Knox Vault 에 암호화해 저장한다고 안내해요.
내 기기에서도 되는지 어떻게 아나요? 설정에 해당 항목이 보이는지부터 확인하시면 돼요.
애플은 업데이트 뒤 모델을 내려받는 시간이 필요해서, 업데이트 직후에는 기능이 아직 안 보일 수 있어요.
오디오 지우개 같은 기능도 온디바이스인가요? 기능마다 달라서 안내를 봐야 해요.
삼성 오디오 지우개는 음성·음악·바람·자연·군중·소음 여섯 가지 소리를 감지해 나눠 준다고 안내돼 있어요.
챗GPT 나 클로드 같은 서비스는 온디바이스인가요? 그쪽은 기본적으로 서버에서 도는 서비스예요.
클로드가 안내하는 파일 업로드, 웹 검색, 메모리, 아티팩트, 프로젝트, 확장 사고, 리서치 같은 기능도 서버 쪽 기능이에요.
AI에게 일을 맡기는 구조 자체가 궁금하시면 루프 엔지니어링도 함께 보세요.
오늘 할 일 하나만 고르자면, 쓰시는 휴대전화 설정에서 AI 관련 항목을 열어 처리 위치를 고르는 자리가 있는지 확인해 보세요.
그 한 줄이 있는지 없는지가 이 개념을 내 기기에 붙여 보는 가장 빠른 방법이에요.
확인한 자료
- 애플, Apple Intelligence 공식 페이지 (2026-08-28 확인)
- 애플 지원, Apple Intelligence 안내 (2026-08-28 확인)
- 삼성전자, 갤럭시 AI 공식 페이지 (2026-08-28 확인)