안녕하세요. 일본서버, 미국서버 호스팅 전문 지구 IDC 기술팀입니다.
Windows 10에서 원격 데스크톱(RDP)으로 서버에 접속할 때 인증 오류가 발생했습니다. 요청한 함수가 지원되지 않습니다.와 함께 CredSSP 암호화 Oracle 수정 또는 영문 환경에서 This could be due to CredSSP encryption oracle remediation 오류가 표시될 수 있습니다.
이 오류는 대개 RDP 클라이언트와 원격 서버의 CredSSP 보안 업데이트 수준 또는 Encryption Oracle Remediation 정책이 서로 맞지 않을 때 발생합니다. 가장 안전한 해결 방법은 클라이언트와 서버를 모두 최신 보안 업데이트 상태로 맞추는 것입니다. 보안 수준을 Vulnerable로 낮추는 방법은 긴급 접속을 위한 임시 우회책일 뿐이며, 서버 업데이트 후 반드시 원래 보안 수준으로 복구해야 합니다.
적용 환경과 사전 확인
| 항목 | 내용 |
|---|---|
| RDP 클라이언트 | Windows 10 원격 데스크톱 연결(mstsc) |
| 원격 대상 | Windows 또는 Windows Server RDP 호스트 |
| 관련 구성 요소 | Credential Security Support Provider(CredSSP), Network Level Authentication(NLA) |
| 필요 권한 | 정책 또는 레지스트리를 변경할 경우 관리자 권한 |
참고: 일반 Windows 10 지원은 2025년 10월 14일 종료되었습니다. 기존 시스템을 계속 운영하고 있다면 적용 가능한 보안 업데이트 상태를 확인하고, 장기적으로는 현재 지원되는 Windows 버전으로 이전하는 것이 좋습니다.
목차
- CredSSP 암호화 Oracle 수정 오류가 발생하는 이유
- 오류 메시지와 현재 상태 확인
- 권장 해결 방법: 클라이언트와 서버 업데이트
- 그룹 정책으로 임시 접속 허용
- gpedit.msc가 없을 때 레지스트리로 임시 설정
- 접속 복구 후 보안 설정 원상복구
- 그래도 접속되지 않을 때 확인할 항목
- 관련 지구 IDC 기술자료
- 공식 참고자료
- 자주 묻는 질문
CredSSP 암호화 Oracle 수정 오류가 발생하는 이유
CredSSP는 원격 데스크톱의 Network Level Authentication 등에서 사용되는 자격 증명 보안 구성 요소입니다. Microsoft는 CVE-2018-0886 취약점을 해결하기 위해 CredSSP 보안 업데이트와 Encryption Oracle Remediation 정책을 도입했습니다.
Microsoft 문서에 따르면 2018년 5월 이후 기본 동작이 Mitigated로 강화되면서, 업데이트된 클라이언트가 패치되지 않은 원격 서버에 연결하려 할 경우 접속이 차단될 수 있습니다. 따라서 이 오류는 비밀번호가 틀렸다는 의미가 아니라 클라이언트와 서버의 CredSSP 호환성 또는 정책 불일치를 먼저 확인해야 하는 오류입니다.
| 설정 | 레지스트리 값 | 의미 |
|---|---|---|
Force Updated Clients |
0 |
안전하지 않은 CredSSP 버전으로의 하위 호환을 허용하지 않는 가장 엄격한 수준 |
Mitigated |
1 |
클라이언트가 취약한 서버로 안전하지 않게 하위 호환하지 않도록 하는 기본적인 완화 수준 |
Vulnerable |
2 |
패치되지 않은 상대와의 호환성을 위해 취약한 방식으로의 연결을 허용하므로 보안상 비권장 |
오류 메시지와 현재 상태 확인
먼저 실제 오류가 CredSSP 정책 문제인지 확인합니다. 대표적으로 다음과 같은 메시지가 표시됩니다.
인증 오류가 발생했습니다.
요청한 함수가 지원되지 않습니다.
CredSSP 암호화 Oracle 수정 때문일 수 있습니다.Windows 10 클라이언트의 버전과 빌드를 확인하려면 실행 창 또는 명령 프롬프트에서 다음 명령을 실행합니다.
winver현재 로컬 컴퓨터에 AllowEncryptionOracle 값이 직접 설정되어 있는지도 확인할 수 있습니다.
reg query "HKLM\Software\Microsoft\Windows\CurrentVersion\Policies\System\CredSSP\Parameters" /v AllowEncryptionOracle값이 존재한다면 0, 1, 2 중 어떤 값이 적용되어 있는지 확인합니다. 레지스트리 키나 값이 없다는 메시지가 나오는 경우에는 로컬에서 해당 값을 직접 지정하지 않은 상태일 수 있으며, 기본 정책 또는 도메인 그룹 정책의 영향을 받을 수 있습니다.
참고: 회사나 기관의 도메인에 가입된 PC라면 로컬에서 값을 변경해도 도메인 GPO가 다시 적용할 수 있습니다. 이 경우에는 조직의 그룹 정책을 먼저 확인해야 합니다.
권장 해결 방법: 클라이언트와 서버를 모두 업데이트
Microsoft가 권장하는 근본적인 해결 방법은 RDP 클라이언트와 원격 서버 양쪽에 CredSSP 관련 보안 업데이트를 적용하고 재부팅하는 것입니다. 한쪽만 패치된 상태에서는 보안 정책에 따라 연결이 차단될 수 있습니다.
1. Windows 10 클라이언트 업데이트
Windows 10에서는 설정 → 업데이트 및 보안 → Windows 업데이트에서 사용 가능한 누적 업데이트와 보안 업데이트를 확인합니다. 설치 후 재부팅이 요구되면 반드시 재부팅합니다.
2. 원격 서버 업데이트
실제 원인은 원격 서버가 오래된 CredSSP 구현을 사용하고 있기 때문인 경우가 많습니다. 콘솔, KVM, 하이퍼바이저 콘솔, IDC 원격 관리 기능 등 RDP 이외의 관리 경로가 있다면 원격 서버에 먼저 접속해 Windows Update를 적용합니다.
업데이트가 설치되어도 재부팅하지 않은 서버에서는 새 CredSSP 구성 요소가 아직 적용되지 않아 문제가 계속될 수 있으므로 업데이트 완료 후 서버 재부팅 여부도 확인합니다.
주의: 원격 서버 재부팅은 서비스 중단을 발생시킬 수 있습니다. 운영 서버라면 서비스 상태, 유지보수 시간, 다른 접속 경로 확보 여부를 확인한 뒤 진행하십시오.
3. 다시 RDP 접속 확인
양쪽 업데이트와 재부팅이 끝난 뒤 mstsc를 다시 실행해 원격 데스크톱 연결을 시도합니다. 정상 접속된다면 보안 수준을 낮추는 추가 설정은 필요하지 않습니다.
그룹 정책으로 임시 접속 허용
원격 서버를 즉시 업데이트할 수 없고 RDP 이외의 관리 경로도 없는 경우에는 Windows 10 클라이언트에서 Encryption Oracle Remediation 정책을 일시적으로 완화하여 접속을 복구할 수 있습니다.
보안 경고: 보호 수준을 Vulnerable로 변경하면 패치되지 않은 CredSSP 서버와의 호환성을 허용하는 대신 보안 수준이 낮아집니다. Microsoft도 이를 영구 해결책으로 권장하지 않습니다. 서버 업데이트를 위한 긴급 접속에만 사용하고 작업 완료 후 반드시 복구하십시오.
gpedit.msc를 실행합니다.- 컴퓨터 구성 → 관리 템플릿 → 시스템 → 자격 증명 위임으로 이동합니다.
- 암호화 Oracle 수정(Encryption Oracle Remediation)을 엽니다.
- 사용으로 변경합니다.
- 보호 수준을 취약(Vulnerable)으로 선택합니다.
- 설정을 적용한 뒤 Windows를 재부팅하고 RDP 접속을 확인합니다.
Microsoft 공식 문서에서는 Encryption Oracle Remediation 정책 변경 후 재부팅이 필요하다고 안내합니다.
참고: Windows 10 Home 등 일부 에디션에서는 로컬 그룹 정책 편집기(gpedit.msc)가 제공되지 않습니다. 이 경우 다음 절의 레지스트리 방법을 사용할 수 있습니다.
gpedit.msc가 없을 때 레지스트리로 임시 설정
그룹 정책 편집기를 사용할 수 없는 환경에서는 관리자 권한 명령 프롬프트에서 Microsoft가 문서화한 AllowEncryptionOracle 값을 직접 설정할 수 있습니다.
주의: 레지스트리를 잘못 수정하면 Windows 동작에 문제가 생길 수 있습니다. 아래 값 외의 항목을 임의로 변경하지 말고, 도메인 관리 PC에서는 조직 정책을 우선 확인하십시오.
먼저 기존 값이 있는지 확인합니다.
reg query "HKLM\Software\Microsoft\Windows\CurrentVersion\Policies\System\CredSSP\Parameters" /v AllowEncryptionOracle긴급 접속을 위해 보호 수준을 Vulnerable로 변경해야 한다면 관리자 권한 명령 프롬프트에서 다음 명령을 실행합니다.
reg add "HKLM\Software\Microsoft\Windows\CurrentVersion\Policies\System\CredSSP\Parameters" /v AllowEncryptionOracle /t REG_DWORD /d 2 /f설정 후 Windows를 재부팅하고 RDP 연결을 다시 시도합니다. 이 설정은 원격 서버를 업데이트할 수 있도록 접속을 일시적으로 허용하기 위한 것입니다.
변경값은 다음 명령으로 다시 확인할 수 있습니다.
reg query "HKLM\Software\Microsoft\Windows\CurrentVersion\Policies\System\CredSSP\Parameters" /v AllowEncryptionOracle출력값이 0x2라면 Vulnerable 수준이 적용된 상태입니다. 이 상태를 장기간 유지하지 마십시오.
접속 복구 후 보안 설정 원상복구
임시로 Vulnerable 설정을 적용해 서버에 접속했다면 먼저 원격 서버의 보안 업데이트를 완료하고 재부팅합니다. 그다음 클라이언트의 CredSSP 정책을 다시 안전한 상태로 복구합니다.
그룹 정책으로 변경한 경우
컴퓨터 구성 → 관리 템플릿 → 시스템 → 자격 증명 위임 → 암호화 Oracle 수정으로 이동하여 기존 정책에 맞게 구성되지 않음으로 되돌리거나 조직 정책에 따라 완화됨(Mitigated) 이상으로 설정합니다.
레지스트리로 변경한 경우
임시로 값 2를 추가했다면 최소한 Mitigated에 해당하는 1로 복구할 수 있습니다.
reg add "HKLM\Software\Microsoft\Windows\CurrentVersion\Policies\System\CredSSP\Parameters" /v AllowEncryptionOracle /t REG_DWORD /d 1 /f원래 이 값이 존재하지 않았고 로컬 정책을 별도로 유지할 필요가 없다면 값 자체를 삭제해 기본 또는 상위 정책을 따르게 할 수도 있습니다.
reg delete "HKLM\Software\Microsoft\Windows\CurrentVersion\Policies\System\CredSSP\Parameters" /v AllowEncryptionOracle /f복구 후 Windows를 재부팅하고 RDP가 계속 정상적으로 접속되는지 확인합니다. 이 단계에서 접속이 다시 차단된다면 원격 서버의 업데이트가 실제로 완료되었는지 다시 확인해야 합니다.
그래도 접속되지 않을 때 확인할 항목
| 증상 | 가능한 원인 | 확인 및 해결 방향 |
|---|---|---|
| 클라이언트 업데이트 후 갑자기 CredSSP 오류 발생 | 원격 서버가 패치되지 않았거나 재부팅되지 않음 | 서버의 누적 보안 업데이트를 적용하고 재부팅 |
Vulnerable로 바꿔도 접속 불가 |
CredSSP 외의 RDP 문제 또는 도메인 정책 덮어쓰기 | RDP 서비스, 방화벽, 계정 권한, NLA, 실제 적용 GPO를 별도로 확인 |
gpedit.msc를 찾을 수 없음 |
로컬 그룹 정책 편집기를 제공하지 않는 Windows 에디션 | 관리자 권한 레지스트리 방법 사용 |
| 설정 후에도 값이 다시 원래대로 변경됨 | 도메인 그룹 정책이 재적용됨 | 조직의 GPO 관리 정책을 확인하고 로컬 우회 설정을 반복하지 않음 |
CredSSP 오류가 아닌 자격 증명이 작동하지 않습니다 오류 표시 |
계정 형식, 암호, 저장된 자격 증명, RDP 로그온 권한 문제 | CredSSP가 아니라 RDP 자격 증명 오류 진단 절차로 확인 |
RDP 포트가 실제로 열려 있는지 확인
CredSSP 오류 문구가 사라졌는데 연결 자체가 되지 않는다면 원격 서버에서 RDP 서비스와 TCP 3389 포트가 정상적으로 수신 대기 중인지 확인해야 합니다. 기본 포트를 사용하는 환경이라면 다음 명령으로 확인할 수 있습니다.
netstat -ano | findstr ":3389"원격 데스크톱 포트를 변경한 환경에서는 실제 설정된 포트 번호로 바꿔 확인해야 합니다. LISTENING이 보이지 않는다면 CredSSP가 아니라 RDP 서비스 또는 포트 설정 문제일 수 있습니다.
관련 지구 IDC 기술자료
공식 참고자료
| 기관 | 문서 | 확인 내용 | 조회일 |
|---|---|---|---|
| Microsoft | CVE-2018-0886용 CredSSP 업데이트 | Encryption Oracle Remediation의 보호 수준, 레지스트리 값, 재부팅 요구사항, 클라이언트·서버 상호 운용성 | 2026년 11월 2일 |
| Microsoft Learn | RDP CredSSP 암호화 Oracle 수정 오류 해결 | 업데이트된 클라이언트와 패치되지 않은 서버 간 오류 원인, 그룹 정책과 레지스트리 임시 해결 방법 | 2026년 11월 2일 |
| Microsoft Learn | ADMX_CredSsp 정책 CSP | AllowEncryptionOracle 정책 위치와 CredSSP 정책 설명 | 2026년 11월 2일 |
| Microsoft | Windows 10 지원 종료 안내 | 일반 Windows 10 지원 종료일 확인 | 2026년 11월 2일 |
자주 묻는 질문
CredSSP 오류는 비밀번호가 틀렸다는 뜻인가요?
아닙니다. CredSSP 암호화 Oracle 수정이라는 문구가 명확히 표시된다면 먼저 클라이언트와 서버의 CredSSP 업데이트 및 보안 정책 불일치를 확인해야 합니다. 단순 자격 증명 오류와는 원인이 다릅니다.
AllowEncryptionOracle을 2로 설정하면 바로 해결되나요?
업데이트된 클라이언트가 패치되지 않은 서버에 연결하지 못하는 전형적인 상황에서는 접속이 가능해질 수 있습니다. 하지만 보안을 낮추는 설정이므로 임시 접속 목적으로만 사용해야 하며, 서버를 업데이트한 뒤 Mitigated 또는 원래 정책으로 복구해야 합니다.
서버에 접속할 수 없는데 서버 업데이트는 어떻게 하나요?
IDC의 KVM/IPMI, 하이퍼바이저 콘솔, 클라우드 직렬 콘솔 등 RDP 이외의 관리 경로가 있다면 해당 방식으로 먼저 접속해 업데이트하는 것이 가장 안전합니다. 다른 경로가 전혀 없을 때만 클라이언트 보안 수준을 임시로 낮추는 방법을 검토하십시오.
NLA를 끄는 방법도 해결책인가요?
NLA 비활성화는 RDP 보안을 낮추며 CredSSP 업데이트 불일치의 근본 해결책이 아닙니다. Microsoft 역시 보안 정책을 낮추는 우회 방법은 일시적으로만 사용할 것을 권고합니다. 가능하면 클라이언트와 서버를 모두 업데이트하는 방식으로 해결하십시오.
회사 PC에서 설정을 바꿨는데 다시 원래대로 돌아옵니다.
도메인 그룹 정책이 로컬 설정을 덮어쓰는 환경일 수 있습니다. 회사·기관에서 관리하는 PC라면 로컬 레지스트리를 반복해서 수정하기보다 적용 중인 GPO와 보안 정책을 시스템 관리자에게 확인하는 것이 적절합니다.
마무리
Windows 10에서 원격 데스크톱 접속 시 CredSSP 암호화 Oracle 수정 오류가 발생한다면 먼저 클라이언트와 원격 서버의 보안 업데이트 수준을 맞추고 양쪽을 재부팅하는 것이 가장 안전한 해결 방법입니다.
서버를 즉시 업데이트할 수 없어 Vulnerable 설정으로 임시 접속했다면, 서버 업데이트가 끝난 뒤 반드시 Mitigated 또는 기존 정책으로 복구해 보안 수준을 원래대로 되돌리시기 바랍니다.
지구 IDC는 일본서버와 미국서버를 포함한 다양한 서버 호스팅 환경에서 안정적인 운영에 도움이 되는 기술정보를 지속적으로 제공하겠습니다.
