로컬 추론, 친숙한 작업 흐름.
Orca은 로컬 서버에 연결합니다. 모델을 설치 또는 다운로드하거나 추론을 번들로 묶거나 Ollama 및 LM Studio 프로세스를 관리하지 않습니다. 연결하기 전에 서버를 시작하고 모델을 로드하세요.
- Orca의 설정을 열고 Ollama, LM Studio 또는 Local OpenAI-compatible를 선택하세요.
- 엔드포인트를 확인하고, 모델 목록을 새로 고치거나, 모델 ID를 수동으로 입력하세요.
- 채팅을 시작하세요. 서버에 키가 필요하지 않으면 API 키가 필요하지 않습니다.
먼저 채팅하세요. 선택에 따른 에이전트 도구.
로컬 및 편집 가능한 프로필은 채팅 모드에서 시작됩니다. 격리된 2단계 함수 호출 프로브는 정확한 공급자, 원본, 엔드포인트, 모델, 추론 구성 및 프로브 버전을 통과해야 합니다. 그런 다음 해당 바인딩에 대해 에이전트 도구를 명시적으로 활성화해야 합니다.
프로브에는 프로젝트 파일, 편집기 컨텍스트, 지침, 기술, 작업 목록, 대화 기록 또는 실제 Orca 도구 스키마가 포함되어 있지 않습니다. 통과한 프로브는 실제 프로젝트에서 신뢰할 수 있는 계획이나 도구 사용이 아닌 하나의 좁은 프로토콜 교환을 확인합니다.
테스트된 qwen2.5-coder:3b 및 llama-3.2-3b-instruct 모델은 Chat에서 작동했지만 Orca의 엄격한 에이전트 프로브를 통과하지 못했습니다. 보다 유능한 도구 사용 모델이 필요할 수 있습니다.
이미지 지원은 모델을 따릅니다.
이미지 기능은 선택한 모델 및 엔드포인트에 대해 지원됨, 지원되지 않음 또는 알 수 없음으로 추적됩니다. 이는 에이전트-도구 호환성과 무관합니다. 성공적인 도구 검색은 비전 지원을 설정하지 않으며 이미지 입력은 에이전트 도구를 활성화하지 않습니다.
알 수 없는 기능이 있는 사용자 정의 및 로컬 프로필은 정확한 엔드포인트 및 모델에 대한 공급자 설정에서 확인되지 않은 이미지 입력을 명시적으로 활성화할 수 있습니다. 지원되지 않는 프로필은 첨부 파일 컨트롤을 흐리게 표시하고 클릭할 수 없도록 유지합니다. 기능 메타데이터 및 명시적 재정의는 실시간 모델 비전 품질을 설정하지 않습니다.
DeepSeek의 표준 엔드포인트에서 현재 Flash은 비전을 지원합니다. Pro 및 레거시 Chat/Reasoner는 텍스트 전용 대체를 사용합니다. 이미지 지원은 공급자 전체에 대한 약속이 아니라 모델별로 다릅니다.
귀하의 요청이 어디로 가는지 알아보세요.
Orca는 이미지 가능 프로필에 대한 다중 모드 요청과 함께 스트리밍된 채팅 완료 전송을 사용합니다. 프롬프트, 첨부된 이미지, 관련 편집기 컨텍스트 및 도구에서 반환된 프로젝트 콘텐츠가 선택한 공급자에게 전송될 수 있습니다. 로컬 엔드포인트는 여전히 다른 곳으로 데이터를 전달할 수 있습니다. Orca은 요청을 받은 후 서버가 수행하는 작업을 확인할 수 없습니다.
사용자 정의 호환 공급자는 불완전한 모델 또는 기능 메타데이터를 노출할 수 있습니다. 엔드포인트를 구성하기 전에 안전 및 개인 정보 보호 개요를 참조하세요.