Nortel SMC 2450 User manual

Secure Multimedia Controller
Implementation Guide
Document Number: 553-3001-225
Document Release: Standard 1.00
Date: May 2006
Year Publish FCC TM
Copyright © 2006 Nortel Networks. All rights reserved.
Produced in Canada
The information in this document is subject to change without notice. The statements, configurations, technical
data, and recommendations in this document are believed to be accurate and reliable, but are presented
without express or implied warranty. Users must take full responsibility for their applications of any products
specified in this document. The information in this document is proprietary to Nortel Networks.
Nortel, Nortel (Logo), the Globemark, SL-1, Meridian 1, and Succession are trademarks of Nortel Networks.
Title page

Page 3 of 260
Secure Multimedia Controller Implementation Guide
4
Revision history
May 2006
Standard 1.00. This document is a new NTP. It was created to support the
Secure Multimedia Controller 2450.

Page 4 of 260 Revision history
553-3001-225 Standard 1.00 May 2006

Page 5 of 260
Secure Multimedia Controller Implementation Guide
10
Contents
List of procedures . . . . . . . . . . . . . . . . . . . . . . . . . . 11
About this document . . . . . . . . . . . . . . . . . . . . . . . 17
Subject .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
Applicable systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
Intended audience . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
Conventions .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
Related information .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
How to get help . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
Getting help from the Nortel web site .. . . . . . . . . . . . . . . . . . . . . . . . . 21
Getting help over the telephone from a Nortel
Solutions Center . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
Getting help from a specialist by using an Express Routing Code . . . . 22
Getting help through a Nortel distributor or reseller .. . . . . . . . . . . . . . 22
Description . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
Contents .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
Release notes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
Key features .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
Security zones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
IP connectivity .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
SMC configurations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33

Page 6 of 260 Contents
553-3001-225 Standard 1.00 May 2006
Traffic protection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
Secure UNIStim proxy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
Administrative tools . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
Resiliency . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
Campus redundancy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
Geographic redundancy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
Engineering impact and limitations . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
Product compliance .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
Overview of the deployment process . . . . . . . . . . 57
Contents . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
Introduction .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
Deploying a new system . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
Hardware installation . . . . . . . . . . . . . . . . . . . . . . . 59
Contents . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
Installation package contents . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
SMC physical features . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
Installation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
Installing the SMC in a rack . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69
Installing the SMC on a shelf or tabletop . . . . . . . . . . . . . . . . . . . . . . . 69
Supplying power to the SMC . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
Setting up terminal access to the SMC . . . . . . . . . . . . . . . . . . . . . . . . . 71
Troubleshooting installation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74
Installation and configuration . . . . . . . . . . . . . . . . 77
Contents . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
SMC configurations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
Configuring the initial SMC . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
Accessing the SMC through the Web UI . . . . . . . . . . . . . . . . . . . . . . . 86
Saving and restoring the SMC configuration . . . . . . . . . . . . . . . . . . . . 95

Contents Page 7 of 260
Secure Multimedia Controller Implementation Guide
Installing the redundant SMC . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98
Firewall deployment . . . . . . . . . . . . . . . . . . . . . . . . 103
Contents .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
Network placement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
Custom firewall rules . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115
Configuring CallPilot desktop messaging .. . . . . . . . . . . . . . . . . . . . . . 116
Configuring Symposium multicast . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
voip_users and voip_admins . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119
Secure UNIStim deployment . . . . . . . . . . . . . . . . . 121
Contents .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121
Security policy .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123
First-time deployment . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131
Configuring Secure UNIStim . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131
Troubleshooting Secure UNIStim .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 137
Configuring the IP clients . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 139
Managing the keys . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146
Secure UNIStim rules . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
Signaling servers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
IP client firmware management . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151
Private key updates . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154
Licensing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 155
Troubleshooting . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
Scenarios . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
Client policy and client firmware policy issues . . . . . . . . . . . . . . . . . . 157
Maintenance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161
Contents .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161

Page 8 of 260 Contents
553-3001-225 Standard 1.00 May 2006
Introduction .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161
Management tools .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161
Users and passwords .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162
SMC software upgrades . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164
Resetting the SMC to factory defaults . . . . . . . . . . . . . . . . . . . . . . . . . 173
VRRP overview . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175
The Command Line Interface (CLI) . . . . . . . . . . . . 183
Contents . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
Introduction .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
Accessing the CLI .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 184
Using the CLI . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 188
RADIUS authentication . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194
Web User Interface (UI) . . . . . . . . . . . . . . . . . . . . . 197
Contents . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197
Introduction .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197
Basics of the Web UI . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198
Logging . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207
Contents . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207
Introduction .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207
Log types .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207
Log configuration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 208
Security log rate-limiting . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
Security Log details . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211
Limits and Scaling . . . . . . . . . . . . . . . . . . . . . . . . . 213
Contents . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213
Configuration limits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214
Firewall limits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214
Engineering limitations .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214

Contents Page 9 of 260
Secure Multimedia Controller Implementation Guide
Secure UNIStim limitations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 215
Scaling beyond 5000 clients . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 216
Appendix A: Troubleshooting . . . . . . . . . . . . . . . . 217
Contents .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217
VRRP/HA connectivity troubleshooting .. . . . . . . . . . . . . . . . . . . . . . . 217
Security error and fingerprint update issues . . . . . . . . . . . . . . . . . . . . . 218
Server Unreachable error . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220
Appendix B: Specifications . . . . . . . . . . . . . . . . . . 221
Contents .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221
Hardware and power supply specifications .. . . . . . . . . . . . . . . . . . . . . 221
Regulatory specifications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
Appendix C: Regulatory information . . . . . . . . . . . 225
Contents .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225
System approval . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225
Electromagnetic compatibility . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225
DenAn regulatory notice for Japan . . . . . . . . . . . . . . . . . . . . . . . . . . . . 228
Appendix D: Software licenses . . . . . . . . . . . . . . . 229
Apache Software Licence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229
mod_ssl License . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231
OpenSSL and SSLeay Licenses . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232
Brian Gladman’s License . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236
Peter Gutmann’s License . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236
PHP License . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 237
SMTPclient License . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239
GNU General Public License . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 240
Appendix E:
SMC packet filter log messages . . . . . . . . . . . . . . 251
Contents .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251

Page 10 of 260 Contents
553-3001-225 Standard 1.00 May 2006
Format .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251
Log message table .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 253