0.0.0.0 vs 127.0.0.1

prerquirements

• DDNS(optional)
• Port forwarding

overview

로컬 LLM 서버 액세스 이슈

초기 구성 시도시에도 불구하고 로컬에서 실행중인 LLM 서버를 외부에서 액세스 할 수 없는 문제 발생
이 포스트에서는 호스트 주소로 127.0.0.1과 0.0.0.0을 사용하는것에 대한 차이점 및 해당 이슈를 해결하는 방법을 설명

step

홈 네트워크 특정 디바이스에 LLM을 설치하고, 외부에서 LLM을 사용하고싶었음
LLM 구동하고, 포트포워딩을 했지만 telnet 접근 엑세스 불가

1. 포트포워딩
   
2. LLM 설치 및 구동
   
3. LLM 접근시도 (telnet)
   

why??

0.0.0,.0 == 모든 네트워크 인터페이스를 나타내는 특수 IP주소
LLM 서버가 0.0.0.0에 바인딩되면 모든 네트워크 인터페이스에서 대기하게되므로,
네트워크의 모든 장치에서 엑세스 할 수 있음

반면 설정하지 않은경우, LLM의 default Host는 127.0.0.1 (AKA 로컬호스트)이므로,
같은 내부망에있는 디바이스들에서만 접속이 가능