AI를 가장자리와 먼 가장자리에서 운영하는 것은 실시간 처리, 낮은 지연 시간, 향상된 의사 결정 능력에 대한 수요 증가로 인해 중요한 초점이 되고 있습니다.

주요 도전 과제

- 데이터 품질 및 관리 : AI 모델의 학습과 배포를 위해 고품질의 관련 있는 데이터가 필수적입니다. 이를 위해 데이터 개인 정보 보호, 보안, 규정을 준수하는 강력한 데이터 관리가 필요합니다.

- 모델 배포 및 통합 : AI/ML 모델을 기존 시스템과 워크플로우에 통합하는 것은 기술적으로 어려운 일입니다. 이는 광범위한 자동화, 모니터링, 지속적 통합 및 지속적 배포(CI/CD) 파이프라인이 필요합니다.

- 역할과 기술 : AI 운영에는 데이터 과학자, MLOps 엔지니어, AI 엔지니어, 앱 개발자, IT 운영팀과 같은 다양한 역할이 포함됩니다. 각 역할은 특정 기술과 도구를 필요로 하며, 이러한 역할을 효과적으로 조정하는 것이 중요합니다.

엣지 컴퓨팅과 AI

- 강한 엣지 컴퓨팅 : 엣지 컴퓨팅은 데이터 소스 근처에 컴퓨팅 자원을 배치하는 것입니다. 강한 엣지 컴퓨터는 산업 환경에서 지속적이고 신뢰할 수 있는 작동을 보장합니다. AI 및 ML과 결합될 때, 이러한 시스템은 실시간 의사 결정과 운영 효율성을 향상시킵니다.

- 이종 아키텍처 : 현대 반도체 설계는 이종 컴퓨팅 아키텍처를 통해 엣지 AI 성능을 최적화하여 다양한 프로세서와 가속기를 통합합니다. 이로 인해 더 효율적인 처리, 낮은 전력 소비, AI 작업 부하 처리 능력이 향상됩니다.

- 5G와 IT/OT 융합 : 5G 기술의 채택은 낮은 지연 시간과 높은 대역폭을 제공하여 실시간 데이터 처리 및 확장을 용이하게 하여 엣지 컴퓨팅을 개선합니다. IT/OT 융합은 정보 기술과 운영 기술을 통합하여 생산성과 운영 효율성을 향상시킵니다.

운영화 과정

- 개념 증명에서 배포까지 : AI/ML 모델을 개념 증명 단계에서 산업 배포로 전환하는 데는 여러 개월(가트너에 따르면 7-12개월)이 걸릴 수 있습니다. 이 과정은 기술 부채, 유지 관리 비용, 시스템 수준의 위험 관리를 포함합니다.

- 인프라 및 도구 : AI/ML 모델을 호스팅하고 관리하기 위해 강력한 IT 플랫폼과 특정 도구가 필요합니다. Red Hat OpenShift AI와 Red Hat Device Edge와 같은 플랫폼은 다양한 장치에서 운영 일관성과 지원을 제공합니다.

- 엣지 조정 : 대규모로 엔드포인트를 관리하는 것은 큰 도전 과제입니다. Dell NativeEdge와 같은 엣지 조정 소프트웨어는 엣지 관리를 중앙 집중화하고 프로비저닝 작업을 자동화하며 제로 트러스트 보안을 보장합니다.

산업 영향

- 실시간 의사 결정 : 엣지에서의 AI는 컴퓨터 비전, 예측 유지 관리 및 공급망 최적화와 같은 응용 프로그램에서 실시간 의사 결정을 가능하게 합니다. 이는 교통, 유틸리티, 제조업 및 의료와 같은 산업에서 매우 중요합니다.

- 경쟁 우위 : AI를 운영화하기 위해 데이터를 체계적으로 정리하는 것은 경쟁 우위를 유지하기 위해 필수적입니다. 기업은 AI의 빠른 채택에 신속하게 적응해야 합니다.

요약하자면, 엣지에서 AI를 운영화하는 것은 데이터 품질, 모델 배포 및 통합과 관련된 주요 도전 과제를 해결하고, 강인한 엣지 컴퓨팅, 이종 아키텍처, 5G와 같은 첨단 기술을 활용하는 것을 포함합니다. 다양한 역할을 효과적으로 조정하고 전문 도구 및 플랫폼을 사용하는 것이 엣지에서 AI 모델의 성공적인 배포 및 유지 관리에 매우 중요합니다.