콤퓨타수선집은 문체부지정 공식
저작권대리중개업체 육하원칙과 함께합니다.

콤퓨타생각 AI에게 잘 읽히는 홈페이지는 모든 AI에게 열려 있어야 할까?

페이지 정보

본문

작성일

GEO를 이야기하다 보면 자연스럽게 한 가지 방향으로 생각하게 된다.


AI가 우리 홈페이지를 더 잘 발견하고,


내용을 정확하게 이해하고,


사용자의 질문에 답할 때 우리 회사의 정보를 활용하게 만드는 것.


생성형 AI를 통한 정보 탐색이 늘어나는 환경에서는 분명 중요한 문제다.


그런데 AI의 웹 접근 방식을 살펴보다 보면 조금 다른 질문도 생긴다.


AI에게 잘 읽히는 홈페이지를 만들려면 모든 AI의 접근을 최대한 열어두는 것이 좋은 것일까?


우리는 이 질문을 단순히 노출의 문제만으로 보기는 어렵다고 생각한다.


검색을 위해 홈페이지를 방문하는 AI와 사용자의 요청을 받아 실시간으로 홈페이지를 확인하는 AI, 그리고 모델 학습을 위해 콘텐츠를 수집하는 AI는 같은 목적으로 들어오는 것이 아니기 때문이다.


결국 GEO 시대의 홈페이지 관리에는 새로운 문제가 하나 추가되고 있다.


우리의 정보를 AI가 잘 발견하도록 만드는 것과, 우리의 정보를 어떤 목적으로 사용할 수 있도록 허용할 것인가는 서로 다른 문제일 수 있다.


■ 홈페이지가 공개되어 있다는 것은 모든 이용 목적을 허용한다는 뜻일까?


기업 홈페이지는 기본적으로 공개된 공간이다.


회사의 서비스,


제품,


연락처,


포트폴리오,


기술,


회사 소개,


뉴스와 콘텐츠 등을 외부에 알리기 위해 만들어진다.


검색엔진이 이런 정보를 발견하고 사용자가 검색을 통해 홈페이지에 들어오는 것도 웹사이트를 운영하는 중요한 이유 중 하나였다.


그래서 지금까지는 많은 경우


“더 잘 발견되는 것”


이 홈페이지 운영의 중요한 목표였다.


하지만 생성형 AI 환경에서는 발견 이후의 사용 방식이 다양해지고 있다.


어떤 AI는 정보를 찾아 사용자의 질문에 답할 수 있고,


어떤 AI는 사용자를 대신해 홈페이지에 직접 방문할 수 있으며,


어떤 시스템은 웹의 정보를 모델 개발 과정에 사용할 수도 있다.


이렇게 목적이 달라지기 시작하면


“인터넷에 공개했다.”


와


“어떤 목적으로든 자유롭게 이용해도 된다.”


를 완전히 같은 의미로 볼 수 있는지에 대한 고민도 생긴다.


■ 우리는 GEO를 ‘AI를 최대한 많이 들어오게 만드는 작업’이라고 생각하지 않는다


GEO를 단순하게 생각하면 AI의 접근을 많이 받을수록 유리하다고 느낄 수 있다.


하지만 우리가 GEO를 바라보는 목적은 단순히 봇의 방문 숫자를 늘리는 데 있지 않다.


우리 회사의 정보가 필요한 순간에


AI가 해당 정보를 발견하고,


내용을 올바르게 이해하고,


사용자에게 적절한 형태로 전달할 수 있는 환경을 만드는 것에 더 가깝다.


따라서 중요한 것은


얼마나 많은 AI가 들어왔는가


보다


어떤 AI가 어떤 목적으로 정보를 이용하고 있는가


일 수 있다.


검색을 위해 접근하는 봇과 모델 학습을 위해 콘텐츠를 수집하는 봇은 기업 입장에서 동일하게 평가할 필요가 없을 수도 있다.


사용자를 대신해 홈페이지를 방문하는 에이전트 역시 또 다른 성격을 가진다.


이 차이를 구분하지 않은 채 모든 AI 트래픽을 하나의 AI Bot으로만 보는 것은 앞으로 점점 어려워질 수 있다고 생각한다.


■ 검색을 위한 접근과 학습을 위한 접근은 같은 가치일까?


기업이 홈페이지에 좋은 콘텐츠를 만드는 데에는 비용이 들어간다.


회사가 직접 경험한 내용,


기술적으로 연구한 자료,


고객을 상대하면서 축적한 노하우,


시장에 대한 분석,


직원들이 만든 전문 지식 등이 콘텐츠에 담길 수 있다.


검색을 통해 이런 콘텐츠가 발견되고 사용자가 원문으로 들어온다면 기업과 사용자 사이에 다시 연결이 만들어질 수 있다.


AI가 질문에 답하면서 회사의 이름이나 출처를 정확히 표시하는 경우에도 기업 정보가 새로운 방식으로 발견될 수 있다.


반면 콘텐츠가 모델 학습에 활용되는 문제는 성격이 조금 다르다.


학습 과정에 사용된 정보가 향후 어떤 질문에서 어떤 형태로 작동하게 되는지를 원문 사이트 운영자가 직접 확인하기는 어렵기 때문이다.


그래서 우리는 앞으로 기업들이


검색 노출


AI 답변에서의 활용


사용자 대신 방문하는 AI 에이전트


모델 학습


을 같은 문제로 보지 않게 될 가능성이 있다고 생각한다.


무조건 허용하거나 무조건 차단하는 문제라기보다 목적을 구분해서 바라보게 되는 것이다.


■ 그렇다면 AI 에이전트는 사람과 같은 방문자일까?


여기서 더 어려운 문제가 생긴다.


사람이 직접 홈페이지에 들어오는 대신 자신의 AI에게 일을 맡기는 경우다.


예를 들어 사용자가 AI에게


“이 회사 서비스가 우리 회사에 맞는지 확인해줘.”


라고 요청할 수 있다.


AI는 홈페이지를 읽고,


서비스를 비교하고,


가격이나 조건을 확인하고,


사용자에게 결과를 설명할 수 있다.


더 발전하면 문의서를 작성하거나 예약 같은 행동까지 대신할 수도 있다.


이 경우 홈페이지에 들어온 것은 사람이 아니라 AI다.


하지만 그 뒤에는 실제 사용자의 목적이 존재한다.


그래서 우리는 사용자 대신 행동하는 AI 에이전트를 단순한 크롤러와 완전히 같은 존재로 보기에는 어려운 부분이 있다고 생각한다.


검색엔진 크롤러는 웹을 수집하기 위해 들어온다.


학습 봇은 모델 개발을 위해 들어올 수 있다.


반면 사용자 에이전트는 특정 사람이 해야 할 일을 대신하기 위해 들어온다.


앞으로 홈페이지를 운영할 때는


Human / Bot


이라는 단순한 구분보다


누구를 대신하고 있는가


왜 접근하고 있는가


까지 함께 보는 문제가 중요해질 수 있다.


■ 앞으로 홈페이지의 고객은 사람만이 아닐 수도 있다


우리는 이전부터 인터넷에서 사용자의 역할이 변할 가능성을 관심 있게 보고 있다.


지금까지 홈페이지는 기본적으로 사람이 이용하는 것을 전제로 만들어졌다.


사람이 검색하고,


링크를 클릭하고,


페이지를 읽고,


버튼을 누르고,


문의하고,


구매했다.


하지만 AI 에이전트가 사용자를 대신해 정보를 찾고 행동하기 시작하면 홈페이지와 직접 상호작용하는 주체가 달라질 수 있다.


사람


↓


AI에게 요청


↓


AI가 홈페이지 탐색


↓


정보 비교


↓


AI가 사용자에게 결과 전달


이런 환경에서는 홈페이지가 정보를 전달해야 하는 상대가 사람만은 아니게 된다.


그렇다고 해서 모든 AI를 하나의 새로운 사용자라고 정의할 수도 없다.


검색 크롤러,


학습 크롤러,


사용자 에이전트,


모니터링 봇,


자동화 시스템


등은 서로 다른 목적을 가지고 있기 때문이다.


그래서 앞으로는 AI에게 홈페이지를 열어둔다는 표현 자체가 너무 단순한 표현이 될 수도 있다고 생각한다.


■ 홈페이지 유지보수에서도 AI 접근 정책이 관리 대상이 될 수 있다


홈페이지 유지보수에서는 이미 다양한 접근 권한을 관리한다.


관리자 계정,


서버 접근,


데이터베이스,


FTP,


API,


외부 서비스 연동


등이다.


모든 사람에게 모든 권한을 주지 않는 것처럼 각각의 목적에 따라 필요한 범위만 접근하도록 관리한다.


AI의 웹 접근 역시 비슷한 관리 영역으로 들어올 가능성이 있다고 본다.


어떤 AI 크롤러의 접근을 허용하고 있는지,


검색용 봇과 학습용 봇의 정책이 어떻게 설정되어 있는지,


robots.txt에는 어떤 규칙이 존재하는지,


실제 서버나 WAF에서는 어떤 자동화 트래픽을 차단하고 있는지,


이러한 설정이 회사의 검색 노출이나 서비스 운영 목적과 충돌하고 있지는 않은지


확인해야 하는 상황이 생길 수 있다.


예전 홈페이지 유지보수가


“사이트가 정상적으로 작동하는가?”


를 관리하는 일이었다면,


AI 시대에는 여기에


“우리 회사의 정보에 어떤 자동화 시스템이 접근할 수 있는가?”


라는 질문도 추가될 수 있다.


■ 접근을 많이 허용하는 것보다 중요한 것은 의도하지 않은 차단을 줄이는 것일 수도 있다


실무에서는 반대의 문제도 생길 수 있다.


보안을 강화하기 위해 봇을 과도하게 차단했는데 정상적인 검색 크롤러까지 접근하지 못하거나,


AI 트래픽을 막는 과정에서 회사가 실제로 노출되고 싶었던 검색 서비스의 접근까지 차단하는 상황이다.


반대로 GEO를 위해 모든 자동화 접근을 허용했다가 기업이 의도하지 않았던 방식의 콘텐츠 수집까지 허용할 수도 있다.


결국 문제는


허용이 좋은가


또는


차단이 좋은가


라는 하나의 답으로 해결하기 어렵다.


기업마다 홈페이지의 역할이 다르기 때문이다.


서비스를 널리 알리는 홈페이지와


유료 지식 콘텐츠를 운영하는 사이트,


회원 데이터를 다루는 서비스,


기술 문서를 공개하는 회사,


뉴스 미디어,


쇼핑몰


이 모두 같은 접근 정책을 사용할 이유는 없다.


그래서 우리는 AI 접근 관리도 결국 홈페이지의 목적에 맞는 정책 설계 문제가 될 가능성이 있다고 본다.


■ GEO와 보안은 서로 반대되는 목표일까?


표면적으로 보면 두 목표는 충돌하는 것처럼 보인다.


GEO


→ AI가 정보를 잘 발견하도록 한다.


보안과 접근 통제


→ 원하지 않는 접근을 제한한다.


하지만 실제로는 반드시 반대되는 개념이라고 생각하지 않는다.


홈페이지에서도 공개 페이지와 관리자 페이지를 구분한다.


검색엔진에 노출하고 싶은 페이지와 노출할 필요가 없는 페이지도 나뉜다.


마찬가지로 AI 환경에서도


발견되길 원하는 정보


와


접근을 제한해야 하는 영역


을 구분하는 것이 가능하다.


결국 중요한 것은


AI에게 많이 보여주는가


가 아니라


보여주고 싶은 정보는 제대로 발견되고, 제한해야 할 정보와 이용 방식은 필요한 수준에서 통제되고 있는가


에 더 가깝다.


■ 고객은 AI 접근 정책까지 모두 직접 이해해야 할까?


우리는 그렇지 않다고 생각한다.


대부분의 고객은 robots.txt의 문법이나 User-Agent, WAF의 동작 방식을 직접 공부하기 위해 홈페이지 유지보수를 맡기는 것이 아니다.


하지만 자신의 홈페이지가 현재 어떤 상태로 관리되고 있는지는 확인할 수 있어야 한다.


우리가 유지보수 업무에서 중요하게 생각하는 원칙도 같다.


고객이 모든 기술을 직접 이해할 필요는 없다. 하지만 자신이 맡긴 일이 어떻게 관리되고 있는지는 이해할 수 있어야 한다.


AI 접근 관리가 홈페이지 유지보수의 일부가 된다면 이것 역시 확인 가능한 관리 항목으로 만들어야 한다고 생각한다.


현재 어떤 검색 크롤러가 허용되어 있는지,


AI 관련 접근 정책이 어떻게 설정되어 있는지,


어떤 영역이 검색 또는 AI 접근에 노출되어 있는지,


정책을 변경했다면 무엇이 달라졌는지


같은 정보를 고객이 확인할 수 있는 형태로 정리하는 것이다.


AI 봇 접근은 화면 디자인 변경처럼 결과가 바로 눈에 보이는 작업이 아니다.


그래서 오히려 보이지 않는 기술 작업일수록 무엇을 관리하고 있는지 보여주는 구조가 필요하다고 생각한다.


■ 앞으로 홈페이지 관리의 범위는 ‘페이지’보다 넓어질 수 있다


홈페이지 유지보수라고 하면 보통 화면과 기능을 떠올린다.


배너를 변경하고,


문구를 수정하고,


게시판을 관리하고,


오류를 해결하고,


서버를 관리하는 일이다.


하지만 검색엔진이 중요해지면서 홈페이지의 검색 노출도 관리 영역에 들어왔다.


생성형 AI가 정보를 탐색하면서는 AI가 회사의 정보를 어떻게 발견하고 이해하는지도 새로운 관리 영역이 되고 있다.


그리고 AI 봇의 목적이 세분화되면서 앞으로는


누가 회사의 디지털 정보에 접근할 수 있는가


역시 홈페이지 관리의 일부가 될 수 있다.


이를 단순화하면 관리 대상은 점차 다음처럼 확장되고 있다고 볼 수 있다.


페이지


↓


기능과 서버


↓


검색 노출


↓


AI에서의 정보 발견


↓


AI의 접근 목적과 권한


결국 홈페이지 유지보수의 대상이 단순한 웹페이지에서 기업의 디지털 정보가 외부 시스템과 관계를 맺는 방식으로 넓어질 가능성이 있다.


■ 우리가 생각하는 GEO의 다음 질문


지금 GEO에서 가장 먼저 해결해야 할 문제는 여전히 분명하다.


기업의 정보가 AI에게 발견되고,


정확하게 이해되고,


필요한 질문에서 활용될 수 있도록 만드는 것이다.


하지만 그 다음에는 또 다른 질문이 따라온다고 생각한다.


어떤 AI에게 정보를 제공할 것인가?


어떤 목적으로 이용되는 것을 허용할 것인가?


사용자를 대신해 들어오는 AI는 어떻게 대해야 하는가?


검색과 학습을 같은 접근으로 볼 것인가?


기업은 자신의 디지털 정보를 어디까지 통제할 수 있어야 하는가?


아직 AI의 웹 접근 방식과 관련된 표준과 정책은 계속 변하고 있다.


그래서 지금 하나의 정답을 정하기보다는 이러한 구분이 생기고 있다는 사실 자체를 이해하는 것이 먼저라고 생각한다.


우리가 생각하는 GEO는 AI에게 홈페이지를 최대한 많이 노출시키는 기술만을 의미하지 않는다.


회사의 정보가 필요한 곳에서는 제대로 발견되면서도, 그 정보가 어떤 방식으로 외부의 AI 시스템과 관계를 맺는지는 기업이 이해하고 관리할 수 있어야 한다.


AI 검색이 확대될수록 앞으로 홈페이지 관리에서 중요한 질문은 단순히


“AI가 우리 홈페이지를 읽을 수 있는가?”


에서 끝나지 않을 수 있다.


그 다음 질문은 아마 이것에 더 가까울 것이다.


“어떤 AI가, 어떤 목적으로, 우리 홈페이지의 무엇을 읽을 수 있도록 할 것인가?”