Precisa 520 Series User manual

Service Manual —
Wartungsanleitung
520
Precision Balances
Präzisionswaagen

520
Precisa Gravimetrics AG 1
Identification – Identifikation
Service manual 520, Precision balances
Index --
June 2022
Subject to technical modifications
artungsanleitung 520, Präzisionswaagen
Index --
Juni 2022
Technische Änderungen vorbehalten
www.precisa.com
Copyright
No reproduction in any form of this document, in whole or in part, may be made without written
authorization from Precisa Gravimetrics AG.
Ohne schriftliche Genehmigung der Precisa Gravimetrics AG darf diese Anleitung weder ganz noch
teilweise nachgedruckt oder vervielfältigt werden.
© Precisa Gravimetrics AG, 8953 Dietikon, Switzerland A. MMDCCLXXV
O
A.V.C. ROMANVS EMONENSIS FECIT

520 Table of contents – Inhaltsverzeichnis
Precisa Gravimetrics AG 2
Table of contents – Inhaltsverzeichnis
1 Components – Bestandteile ..................................................................................................... 4
1.1 About spare parts – Über Ersatzteile ............................................................................ 4
1.2 Balance groups – aagengruppen ............................................................................... 4
1.3 Housing's top – Gehäuseoberteil .................................................................................. 5
1.4 eighing cell – ägezelle ........................................................................................... 8
1.4.1 Overall view – Übersicht ............................................................................................. 8
1.4.2 Layer sets – Lagersätze .............................................................................................. 9
1.5 eighing pans – aagschalen .................................................................................. 10
1.6 Draft shields – indschütze ...................................................................................... 12
1.6.1 Draft shield PB – indschutz PB ................................................................................ 12
1.6.2 Draft shield PB short – indschutz PB kurz ................................................................. 13
1.6.3 Draft shield M – indschutz M .................................................................................. 14
1.7 Reference weight device – Referenzgewichtsmodul ...................................................... 15
1.8 Electronic Parts – Elektronische Teile ......................................................................... 16
1.9 Power adapter – Netzadapter .................................................................................... 18
2 epairs .................................................................................................................................... 19
2.1 Before getting started .............................................................................................. 19
2.1.1 About overhauling a weighing cell .............................................................................. 19
2.1.2 Über diese AnleitungAbout these instructions .............................................................. 19
2.1.3 Required tools ......................................................................................................... 20
2.1.4 Prepairing the tools .................................................................................................. 21
2.1.5 Spare parts ............................................................................................................. 21
2.2 Opening the balance ................................................................................................ 21
2.3 Removing the weighing cell ....................................................................................... 22
2.4 Removing the layers ................................................................................................ 23
2.5 Cleaning the magnet pot .......................................................................................... 24
2.6 Installing new layers ................................................................................................ 24
2.7 Aligning the weighing cell ......................................................................................... 27
2.8 Installing the weighing cell ........................................................................................ 31
2.9 Adjusting the corner load .......................................................................................... 32
2.9.1 Determining the corner load values ............................................................................ 32
2.9.2 Adjusting the corner load .......................................................................................... 33
2.10 Closing the balance .................................................................................................. 34
3 Adjustments ............................................................................................................................ 35
3.1 Before getting started .............................................................................................. 35
3.1.1 Table of specifications .............................................................................................. 35
3.1.2 Operating conditions ................................................................................................ 35
3.1.3 Placing loads ........................................................................................................... 35
3.1.4 Operating notes ....................................................................................................... 35
3.2 Setting the balance to the service mode (the balance is closed) .................................... 36
3.2.1 Setting the balance to the service mode (PT) .............................................................. 36
3.2.2 Setting the balance to the service mode (PB) .............................................................. 36
3.3 Adjusting the linearity .............................................................................................. 37
3.3.1 Adjusting the linearity (PT) ....................................................................................... 37
3.3.2 Adjusting the linearity (PB) ....................................................................................... 37
3.4 S-Correction ........................................................................................................... 38
3.4.1 Correcting the S-curve (PT) ...................................................................................... 38
3.4.2 Correcting the S-curve (PB) ...................................................................................... 39
3.4.3 Notes on the S-correction ......................................................................................... 39
3.5 Adjusting the internal reference weight (CR ) (SCS models only) ................................. 40
3.5.1 Adjusting the internal reference weight using a nominal weight ..................................... 40

520 Table of contents – Inhaltsverzeichnis
Precisa Gravimetrics AG 3
3.5.2
Adjusting the internal reference weight using a calibrated weight .................................. 41
3.6 Adjusting the balance using its internal reference weight (SCS models only) ................... 42
3.6.1 Adjusting the balance using its internal reference weight (PT) ....................................... 42
3.6.2 Adjusting the balance using its internal reference weight (PB) ....................................... 42
3.7 Adjusting the electronic level (PT only) ....................................................................... 42
3.8 Discussion with the manufacturer .............................................................................. 43
3.9 Sending the balance to the manufacturer for repair ..................................................... 43
4 eparatur ................................................................................................................................ 44
4.1 Vor dem Beginnen ................................................................................................... 44
4.1.1 Vom Überholen einer ägezelle ................................................................................ 44
4.1.2 Über diese Anleitung ................................................................................................ 44
4.1.3 Benötigtes erkzeug ............................................................................................... 45
4.1.4 Vorbereiten des erkzeugs ....................................................................................... 46
4.1.5 Ersatzteile .............................................................................................................. 46
4.2 Die aage öffnen .................................................................................................... 46
4.3 Die ägezelle ausbauen ........................................................................................... 47
4.4 Die Lager ausbauen ................................................................................................. 48
4.5 Den Magnettopf reinigen .......................................................................................... 49
4.6 Neue Lager einbauen ............................................................................................... 49
4.7 Die ägezelle ausrichten .......................................................................................... 52
4.8 Die ägezelle einbauen ............................................................................................ 56
4.9 Die Eckenlast einstellen ............................................................................................ 57
4.9.1 Die Eckenlastwerte ermitteln ..................................................................................... 57
4.9.2 Die Eckenlast justieren ............................................................................................. 58
4.10 Die aage schließen ................................................................................................ 59
5 Justierung ............................................................................................................................... 60
5.1 Vor dem Beginnen ................................................................................................... 60
5.1.1 Spezifikationstabelle ................................................................................................ 60
5.1.2 Betriebsbedingungen ............................................................................................... 60
5.1.3 Lasten auflegen ....................................................................................................... 60
5.1.4 Bedienungshinweise ................................................................................................. 60
5.2 Die aage in den Servicemodus bringen (die aage ist geschlossen) ............................ 61
5.2.1 Die aage in den Servicemodus bringen (PT) ............................................................. 61
5.2.2 Die aage in den Servicemodus bringen (PB) ............................................................. 61
5.3 Die Linearität justieren ............................................................................................. 62
5.3.1 Die Linearität justieren (PT) ...................................................................................... 62
5.3.2 Die Linearität justieren (PB) ...................................................................................... 62
5.4 S-Korrektur ............................................................................................................ 63
5.4.1 Die S-Kurve korrigieren (PT) ..................................................................................... 63
5.4.2 Die S-Kurve korrigieren (PB) ..................................................................................... 64
5.4.3 Anmerkungen zur S-Korrektur ................................................................................... 64
5.5 Das interne Referenzgewicht justieren (CR ) (nur SCS-Modelle) ................................... 65
5.5.1 Das interne Referenzgewicht mittels eines Nominalgewichts justieren ............................ 65
5.5.2 Das interne Referenzgewicht mittels eines kalibrierten Gewichts justieren ...................... 66
5.6 Die aage mittels ihres internen Referenzgewichts justieren (nur SCS-Modelle) .............. 67
5.6.1 Die aage mittels ihres internen Referenzgewichts justieren (PT).................................. 67
5.6.2 Die aage mittels ihres internen Referenzgewichts justieren (PB) ................................. 67
5.7 Die elektronische Libelle justieren (nur PT) ................................................................. 67
5.8 Rücksprache mit dem Hersteller ................................................................................ 68
5.9 Die aage zur Reparatur an den Hersteller schicken .................................................... 68

520 Components – Bestandteile
Precisa Gravimetrics AG 4
1Components – Bestandteile
1.1 About spare parts – Über Ersatzteile
•Certain spare parts have to be determined more precisely because of the various capacities of
balances. Therefore refer to the following table and find out to which group a balance belongs.
Example: A 220A belongs to group A. Thus, in group specific spare parts select the ones of group
A.
Bestimmte Ersatzteile müssen aufgrund verschiedener Tragfähigkeiten der aagen näher
bestimmt werden. Hierfür ist mit Hilfe der folgenden Tabelle herauszufinden, welcher Gruppe die
aage angehört.
Beispiel: Eine 220A gehört in die Gruppe A. Bei gruppenspezifischen Ersatzteilen ist also
dasjenige der Gruppe A zu nehmen.
•N instead of an item number means "Not available as spare part".
N anstelle der Artikelnummer bedeutet «Nicht als Ersatzteil erhältlich».
1.2 Balance groups – Waagengruppen
Group Model
A 120A
220A
320A
M 320M
620M
920M
1220M
C 320C
620C
1200C
2200C
3200C
4200C
6200C
D 3200D
6200D
10200D
10200G

520 Components – Bestandteile
Precisa Gravimetrics AG 5
1.3 Housing's top – Gehäuseoberteil
Pos. Pcs. Item number Item Artikel
- 1 520-8004 Housing's top cpl., PT, A/M Gehäuseoberteil kpl., PT, A/M
Pos. Pcs. Item number Item Artikel
- 1 520-8005 Housing's top cpl., PT, C/D/G Gehäuseoberteil kpl., PT, C/D/G

520 Components – Bestandteile
Precisa Gravimetrics AG 6
Pos. Pcs. Item number Item Artikel
- 1 520-8002 Housing's top cpl., PB, A/M Gehäuseoberteil kpl., PB, A/M
Pos. Pcs. Item number Item Artikel
- 1 520-8003 Housing's top cpl., PB, C/D/G Gehäuseoberteil kpl., PB, C/D/G

520 Components – Bestandteile
Precisa Gravimetrics AG 7
Pos. Pcs. Item number Item Artikel
1 1 520-4001 Membrane keypad, PB Folientastatur, PB
2 1 360-4008 Display glass Anzeigeglas

520 Components – Bestandteile
Precisa Gravimetrics AG 8
1.4 Weighing cell – Wägezelle
1.4.1 Overall view – Übersicht

520 Components – Bestandteile
Precisa Gravimetrics AG 9
Pos. Pcs. Item number Item Artikel
1 1 see below Ribbon cable Flachbandkabel
2 3 PN 1100-377 Screw cap Torx M3x20 LT-Schraube M3x30
3 1 - Magnet pot Magnettopf
4 1 240-4048 Symmetry screw Symmetrieschraube
5 1 - Floating sensor Lichtschranke
6 3 PN 1100-353 Screw cap Torx M3x8 LT-Schraube M3x8
7 1 - Transport safety device Transportsicherung
8 1 - Balance arm aagbalken
9 2 see below Copper strip Kupferband
10 2 PN 1100-341 Screw cap Torx M4x12 ST-Schraube M4x12
11a 1 - Cantilever, M Ausleger, M
11b 1 - Four-point support Vierpunktauflage
12 2 PN 1100-388 Screw cap Torx M4x16 LT-Schraube M4x16
13 2 PN 1500-075 Clamping washer M4 Spannscheibe M4
14 2 PN 1100-354 Screw cap Torx M3x20 LT-Schraube M3x20
15 4 PN 1500-041 Clamping washer M3 Spannscheibe M3
16 2 PN 1100-355 Screw cap Torx M3x25 LT-Schraube M3x25
17 1 - Double nut Doppelmutter
18 1 see below Layer A (vertical flexures unit) Lager A (Hängelagereinheit)
19 1 see below Layer B (coupling) Lager B (Zugband)
20 1 - Adapter for Layer B Adapter für Lager B
21 1 - Level piece Niveaustück
22 1 PN 1100-387 Screw cap Torx M2.5x8 LT-Schraube M2.5x8
1.4.2 Layer sets – Lagersätze
A set includes the two required replacement layers for a weighing cell, i.e. a layer A (vertical
flexures unit) (18) and a layer B (coupling) (19). In case they are damaged during work on the
weighing cell, two copper strips (9) and a ribbon cable (1) are also included.
Ein Satz beinhaltet die beiden benötigten Ersatzlager für eine ägezelle, also ein Lager A (Hänge-
lagereinheit) (18) und ein Lager B (Zugband) (19). Für den Fall, dass sie bei den Arbeiten an der
ägezelle beschädigt werden, liegen auch zwei Kupferbänder (9) und ein Flachbandkabel (1) bei.
Pos. Pcs. Item number Item Artikel
- 1 350-8761 Layer set, A Lagersatz, A
- 1 350-8762 Layer set, M Lagersatz, M
- 1 350-8763 Layer set, C Lagersatz, C
- 1 350-8764 Layer set, D Lagersatz, D

520 Components – Bestandteile
Precisa Gravimetrics AG 10
1.5 Weighing pans – Waagschalen
Pos. Pcs. Item number Item Artikel
- 1 390-8007 eighing pan D90, A aagschale D90, A
Pos. Pcs. Item number Item Artikel
- 1 520-8012 eighing pan D120, M aagschale D120, M

520 Components – Bestandteile
Precisa Gravimetrics AG 11
Pos. Pcs. Item number Item Artikel
- 1 520-8016 eighin pan D120 high, aagschale D120 hoch,
for draft shield PB, M für indschutz PB, M
Pos. Pcs. Item number Item Artikel
- 1 520-8014 eighing pan 180, C/D/G aagschale 180, C/D/G

520 Components – Bestandteile
Precisa Gravimetrics AG 12
1.6 Draft shields – Windschütze
1.6.1 Draft shield PB – Windschutz PB
Pos. Pcs. Item number Item Artikel
1 1 PN 3954-008 Top glass Deckscheibe
2 2 PN 3954-009 Side glass Seitenscheibe
3 1 PN 3954-007 Front glass Frontscheibe
4 1 PN 3954-006 Rear glass Heckscheibe
5 3 PN 3954-013 Handle Griff
6 3 PN 3954-029 Handle nut Griffmutter
- 1 350-8735 Draft shield PB indschutz PB

520 Components – Bestandteile
Precisa Gravimetrics AG 13
1.6.2 Draft shield PB short – Windschutz PB kurz
Pos. Pcs. Item number Item Artikel
1 1 PN 3954-008 Top glass Deckscheibe
2 2 PN 3954-019 Side glass Seitenscheibe
3 1 PN 3954-017 Front glass Frontscheibe
4 1 PN 3954-016 Rear glass Heckscheibe
5 3 PN 3954-013 Handle Griff
6 3 PN 3954-029 Handle nut Griffmutter
- 1 350-8742 Draft shield PB short indschutz PB kurz

520 Components – Bestandteile
Precisa Gravimetrics AG 14
1.6.3 Draft shield M – Windschutz M
Pos. Pcs. Item number Item Artikel
1 1 520-2016 Cover Deckel
2 1 520-7004 Glass cylinder Glaszylinder

520 Components – Bestandteile
Precisa Gravimetrics AG 15
1.7 eference weight device – eferenzgewichtsmodul
Pos. Pcs. Item number Item Artikel
1 1 350-8751 Reference weight device w/o weight Referenzgewichtsmodul o. Gewicht
Pos. Pcs. Item number Item Artikel
1 1 520-3020 Internal reference weight 200g Internes Referenzgewicht 200g
2 2 520-3021 Internal reference weight 800g Internes Referenzgewicht 800g

520 Components – Bestandteile
Precisa Gravimetrics AG 16
1.8 Electronic Parts – Elektronische Teile
Pos. Pcs. Item number Item Artikel
1 1 520-7200-020 Main board, A Hauptprint, A
1 520-7200-021 Main board, M/C/D/G Hauptprint, M/C/D/G
2 1 PN 3840-003 Coin cell CR2032 Knopfzelle CR2032
Pos. Pcs. Item number Item Artikel
1 1 520-7203-020 Carrier board, PT Trägerprint, PT

520 Components – Bestandteile
Precisa Gravimetrics AG 17
Pos. Pcs. Item number Item Artikel
1 1 PN 3260-030 LC Display, PB LC-Anzeige, PB
Pos. Pcs. Item number Item Artikel
1 1 520-7001 Interface unit Schnittstelleneinheit

520 Components – Bestandteile
Precisa Gravimetrics AG 18
1.9 Power adapter – Netzadapter
Pos. Pcs. Item number Item Artikel
- 1 350-8394 Universal power adapter Universalnetzadapter

520 Repairs
Precisa Gravimetrics AG 19
2epairs
2.1 Before getting started
2.1.1 About overhauling a weighing cell
•In case of a broken layer, both, layer A and layer B must be replaced!
•Enough space, a clean environment and a sorted way of working are best conditions!
2.1.2 Über diese AnleitungAbout these instructions
•Numbers in round brackets refer to components shown in the overall view of chapter 1.4.1.
Have a printout of this overwiev always at disposal!
•Numbers in square brackets refer to tools shown in chapter 2.1.3.1. Have a printout of this
chapter always at disposal, too!