Discussion:
Wie ein Maildir mit 36mio Messages sichern ohne Dups?
(zu alt für eine Antwort)
Michelle Konzack
2011-03-27 17:10:01 UTC
Permalink
Hallo Leute,

ich verwende auf meinen Servern sehr schnelle und leistungsfähige SCSI
Festplatten und Disk-IO hat mich bisher nicht besonderst interessiert.

Nun, mittlerweile denke ich etwas anderes und ich benötige eine Lösung
um (derzeit) 36mio E-Mails zu sichern und zwar per Benutzer (derzeit 73)

Da sich im Maildir bei imap_move() und imap_copy() die Datei-Namen
verändern, versagen "find" und "rsync" kläglich.

So, jetzt bin ich schonmal hergegangen und versehe ALLE eingehenden
messages mit einer ABSUUT einmaligen Seriennummer per Benutzer wobei ich
bereits

----[ '~/.tdtools-procmail/tdmailserialnumber.last' ]-------------------
10531129
------------------------------------------------------------------------

habe, was die Sache komplizierter macht... ein Backup welches die Mail-
Header ließt um X-TD-MailSerialnumber: zu bekommen DAUÄÄÄÄÄÄRT!

Hat irgend jemand ideen, was man einfacher machen kann oder
kennt jemand eine professionelle Linux Software die das kann?

Ich rechne in Zukunft mit mindestens 20.000 Mail-Accouts auf
über 10 Servern die auf diese Weise gesichert werden müssen.

Achja, da ich "procmail" benutze, verwende ich TRAP um die Messages beim
einsortieren in die Folder nach meinem Schema umzubenennen. Das
funktioniert allerdings nur so lange wie die Mail im GLEICHEN Mailfolder
bleibt, denn bei imap_move() und imap_copy() ist wieder alles mist!

Thanks, Greetings and nice Day/Evening
Michelle Konzack
--
##################### Debian GNU/Linux Consultant ######################
Development of Intranet and Embedded Systems with Debian GNU/Linux

***@tdnet France EURL ***@tdnet UG (limited liability)
Owner Michelle Konzack Owner Michelle Konzack

Apt. 917 (homeoffice)
50, rue de Soultz Kinzigstraße 17
67100 Strasbourg/France 77694 Kehl/Germany
Tel: +33-6-61925193 mobil Tel: +49-177-9351947 mobil
Tel: +33-9-52705884 fix

<http://www.itsystems.tamay-dogan.net/> <http://www.flexray4linux.org/>
<http://www.debian.tamay-dogan.net/> <http://www.can4linux.org/>

Jabber ***@jabber.ccc.de
ICQ #328449886

Linux-User #280138 with the Linux Counter, http://counter.li.org/
Heiko Schlittermann
2011-03-27 19:10:02 UTC
Permalink
Hallo,
Nun, mittlerweile denke ich etwas anderes und ich benötige eine Lösung
um (derzeit) 36mio E-Mails zu sichern und zwar per Benutzer (derzeit 73)
Da sich im Maildir bei imap_move() und imap_copy() die Datei-Namen
verÀndern, versagen "find" und "rsync" klÀglich.
m.W. gibt es bei IMAP keine MOVE Operation. Es gibt nur ein COPY mit
einem anschließenden DELETE und irgendwann ein EXPUNGE. Aber natÃŒrlich
mag ich mich irren.

Ob sich Dateinamen Àndern, hÀngt ja mal sehr vom verwendeten IMAP-Server
ab, ja sogar, ob ÃŒberhaupt Dateinamen involviert sind. Du hast leider
nicht geschrieben, welchen IMAP-Server mit welchem Storage-Backend Du
verwendest.
So, jetzt bin ich schonmal hergegangen und versehe ALLE eingehenden
messages mit einer ABSUUT einmaligen Seriennummer per Benutzer wobei ich
bereits
----[ '~/.tdtools-procmail/tdmailserialnumber.last' ]-------------------
10531129
------------------------------------------------------------------------
habe, was die Sache komplizierter macht... ein Backup welches die Mail-
Header ließt um X-TD-MailSerialnumber: zu bekommen DAUÄÄÄÄÄÄRT!
Du wirst fÌr ein Backup nicht alle Messages öffnen wollen um dann zu
gucken, welche Serial-Number im Header steht. Und nebenbei bemerkt, kann
man ÃŒber IMAP ja auch eine Nachricht „hochladen“, ist das auch bedacht?
Hat irgend jemand ideen, was man einfacher machen kann oder
kennt jemand eine professionelle Linux Software die das kann?
Ich rechne in Zukunft mit mindestens 20.000 Mail-Accouts auf
ÃŒber 10 Servern die auf diese Weise gesichert werden mÃŒssen.
Warum sind die auf 10 Servern verteilt? Ich habe hier gerade mit einem
Mailsystem zu tun, was gut 100k Accounts hat und mit einer Handvoll
IMAP-Servern (die fÃŒr das Storage NFS benutzen)
 (Zugegeben, es ist
nicht Linux, weder auf den IMAP-Servern (NFS-Clients) noch auf dem
NFS-Server).

Dann solltest Du Geld fÃŒr einen Profi in die Hand nehmen, oder selbst
Achja, da ich "procmail" benutze, verwende ich TRAP um die Messages beim
einsortieren in die Folder nach meinem Schema umzubenennen. Das
funktioniert allerdings nur so lange wie die Mail im GLEICHEN Mailfolder
bleibt, denn bei imap_move() und imap_copy() ist wieder alles mist!
Ich wÃŒrde am IMAP-Server eingreifen, nicht am Procmail, der IMAP mÃŒsste
ja, wenn es MAILDIR ist, die Nachrichten von new/ nach cur/ verschieben,
dabei könnte er auch Umbenennungen machen

--
Heiko :: dresden : linux : SCHLITTERMANN.de
GPG Key 48D0359B : 3061 CFBF 2D88 F034 E8D2 7E92 EE4E AC98 48D0 359B
Michelle Konzack
2011-03-27 19:50:01 UTC
Permalink
Hello Heiko Schlittermann,
Post by Heiko Schlittermann
m.W. gibt es bei IMAP keine MOVE Operation. Es gibt nur ein COPY mit
einem anschließenden DELETE und irgendwann ein EXPUNGE. Aber natÃŒrlich
mag ich mich irren.
Richtig, aber Du kannst das COPY mit EXPUNGE irgendwie verbinden...
Post by Heiko Schlittermann
Ob sich Dateinamen Àndern, hÀngt ja mal sehr vom verwendeten IMAP-Server
ab, ja sogar, ob ÃŒberhaupt Dateinamen involviert sind. Du hast leider
nicht geschrieben, welchen IMAP-Server mit welchem Storage-Backend Du
verwendest.
Courier
Post by Heiko Schlittermann
Du wirst fÌr ein Backup nicht alle Messages öffnen wollen um dann zu
gucken, welche Serial-Number im Header steht.
Ehm mache ich derzeit... (noch)
Post by Heiko Schlittermann
Und nebenbei bemerkt, kann
man ÃŒber IMAP ja auch eine Nachricht „hochladen“, ist das auch bedacht?
Ja, in diesem Falle versieht mein Backupscript die E-Mail manuell mit
einem Header
Post by Heiko Schlittermann
Warum sind die auf 10 Servern verteilt? Ich habe hier gerade mit einem
Mailsystem zu tun, was gut 100k Accounts hat und mit einer Handvoll
IMAP-Servern (die fÃŒr das Storage NFS benutzen)
 (Zugegeben, es ist
nicht Linux, weder auf den IMAP-Servern (NFS-Clients) noch auf dem
NFS-Server).
Sind genaugenommen mehrere server in denen die Kunden ihr VOLLSTÄNDIGES
${HOME} haben, als nicht nur /Maildir/. Zur Zeit habe ich da gut 1200
Accounts pro Server.

Also ich verwende derzeit EINEN courier-proxy (imap/smtp) welche aber in
jeweils vier "imap" und "inbound" gespritet werden (sobald ich das neue
Rackspace habe) und dahinter habe ich in einem private Network die
Storage Server...

Somit kann ich dann scalieren...
Post by Heiko Schlittermann
Dann solltest Du Geld fÃŒr einen Profi in die Hand nehmen, oder selbst
Deswegen frage ich ja, ob es eine OSS oder "professionelle" Lösung gibt
oder nicht
Post by Heiko Schlittermann
Ich wÃŒrde am IMAP-Server eingreifen, nicht am Procmail, der IMAP mÃŒsste
ja, wenn es MAILDIR ist, die Nachrichten von new/ nach cur/ verschieben,
dabei könnte er auch Umbenennungen machen

Nur wenn Du die Mail innerhalb dieses Mailfoders copierst. ansonsten wir
die Mail einfach von /new/ nach /cur/ verschoben und bekommt seinen :2,S
addy.

Thanks, Greetings and nice Day/Evening
Michelle Konzack
--
##################### Debian GNU/Linux Consultant ######################
Development of Intranet and Embedded Systems with Debian GNU/Linux

***@tdnet France EURL ***@tdnet UG (limited liability)
Owner Michelle Konzack Owner Michelle Konzack

Apt. 917 (homeoffice)
50, rue de Soultz Kinzigstraße 17
67100 Strasbourg/France 77694 Kehl/Germany
Tel: +33-6-61925193 mobil Tel: +49-177-9351947 mobil
Tel: +33-9-52705884 fix

<http://www.itsystems.tamay-dogan.net/> <http://www.flexray4linux.org/>
<http://www.debian.tamay-dogan.net/> <http://www.can4linux.org/>

Jabber ***@jabber.ccc.de
ICQ #328449886

Linux-User #280138 with the Linux Counter, http://counter.li.org/
Dirk Finkeldey
2011-03-27 21:00:01 UTC
Permalink
Post by Michelle Konzack
Hallo Leute,
ich verwende auf meinen Servern sehr schnelle und leistungsfähige SCSI
Festplatten und Disk-IO hat mich bisher nicht besonderst interessiert.
Nun, mittlerweile denke ich etwas anderes und ich benötige eine Lösung
um (derzeit) 36mio E-Mails zu sichern und zwar per Benutzer (derzeit 73)
Da sich im Maildir bei imap_move() und imap_copy() die Datei-Namen
verändern, versagen "find" und "rsync" kläglich.
Thanks, Greetings and nice Day/Evening
Michelle Konzack
Gibt es keine Möglichkeit courier mit einen MSQL Server zu verbinden um
die ***@ils in einer MSQLBibliothek zu speichern ?

Courier kann auch ***@ilinglisten , lässt sich daraus nicht ein backup
stricken ?

Gruß Dirkl Finkeldey
--
Zum AUSTRAGEN schicken Sie eine Mail an debian-user-german-***@lists.debian.org
mit dem Subject "unsubscribe". Probleme? Mail an ***@lists.debian.org (engl)
Archive: http://lists.debian.org/***@ewetel.net
Michelle Konzack
2011-03-30 20:00:01 UTC
Permalink
Hello Dirk Finkeldey,
Post by Dirk Finkeldey
Gibt es keine Möglichkeit courier mit einen MSQL Server zu verbinden
Nicht direkt... Habe 3 Jahre versucht als Mailstorage PostgreSQL zu
verwenden, aber bei gut 100.000 Mails ist dann irgendwie schluß, weil Du
dann an Hardware Anforderungen kommst, die nicht mehr angemessen sind.
Post by Dirk Finkeldey
stricken ?
Ja, bringt aber nichts.
Post by Dirk Finkeldey
Gruß Dirkl Finkeldey
Thanks, Greetings and nice Day/Evening
Michelle Konzack
--
##################### Debian GNU/Linux Consultant ######################
Development of Intranet and Embedded Systems with Debian GNU/Linux

***@tdnet France EURL ***@tdnet UG (limited liability)
Owner Michelle Konzack Owner Michelle Konzack

Apt. 917 (homeoffice)
50, rue de Soultz Kinzigstraße 17
67100 Strasbourg/France 77694 Kehl/Germany
Tel: +33-6-61925193 mobil Tel: +49-177-9351947 mobil
Tel: +33-9-52705884 fix

<http://www.itsystems.tamay-dogan.net/> <http://www.flexray4linux.org/>
<http://www.debian.tamay-dogan.net/> <http://www.can4linux.org/>

Jabber ***@jabber.ccc.de
ICQ #328449886

Linux-User #280138 with the Linux Counter, http://counter.li.org/
Ralf Prengel
2011-03-31 11:10:02 UTC
Permalink
Post by Michelle Konzack
Hello Dirk Finkeldey,
Post by Dirk Finkeldey
Gibt es keine Möglichkeit courier mit einen MSQL Server zu verbinden
Nicht direkt... Habe 3 Jahre versucht als Mailstorage PostgreSQL zu
verwenden, aber bei gut 100.000 Mails ist dann irgendwie schluß, weil Du
dann an Hardware Anforderungen kommst, die nicht mehr angemessen sind.
Post by Dirk Finkeldey
stricken ?
Ja, bringt aber nichts.
Post by Dirk Finkeldey
Gruß Dirkl Finkeldey
Thanks, Greetings and nice Day/Evening
Michelle Konzack
Ohne Werbung machen zu wollen
http://www.heinlein-support.de/web/heinlein/index/
Als Verfasser eines Postfix-Buches wird er auch Imap können.
Ich denke das dein Thema schon in einer eigenen Liga spielt.

Gruß

Ralf Prengel
Manager
Customer Care
Comline AG
Hauert 8
D-44227 Dortmund/Germany

Fon +49 231 97575 904
Fax +49 231 97575 257
Mobil +49 151 10831 157
EMail ***@comline.de


www.comline.de
Vorstand Stephan Schilling, Erwin Leonhardi
Aufsichtsrat Dr. Franz Schoser (Vorsitzender) HR Dortmund B 14570 USt.-ID-Nr. DE 124727422

Für die Erstellung unserer Dokumente benutzen wir die Produkte aus dem Microsoft Office 2007 Paket.
Sollte sich ein Anhang in der Mail befinden, der mit einer älteren Office Version nicht geöffnet werden kann,
installieren Sie bitte das Compatibility Pack für Office 2007.
http://www.microsoft.com/downloads/details.aspx?FamilyID=941b3470-3ae9-4aee-8f43-c6bb74cd1466&DisplayLang=de
--
Zum AUSTRAGEN schicken Sie eine Mail an debian-user-german-***@lists.debian.org
mit dem Subject "unsubscribe". Probleme? Mail an ***@lists.debian.org (engl)
Archive: http://lists.debian.org/***@comline.de
Michelle Konzack
2011-03-31 14:00:03 UTC
Permalink
Hello Ralf Prengel,
Post by Ralf Prengel
Ohne Werbung machen zu wollen
http://www.heinlein-support.de/web/heinlein/index/
Als Verfasser eines Postfix-Buches wird er auch Imap können.
Ich denke das dein Thema schon in einer eigenen Liga spielt.
Das ist schon klar. Das interessate an deren Archiv-System ist, das ich
ein fast identisches system habe, indem ich BIG_BOTHER auf dem courier
eingerichtet habe, welches von JEDER ein und ausgehenden Mail eine Kopie
abspeichert...

Dann jage ich darüber einen Filter mit einer (speziellen) Kundenliste
und GPG signiere die vollständige Mail-Datei und speichere sie seperat
ab.

Das ist ein Service um den mich zwei Kunden gebeten haben...
Das System ist von den Finanzbehörden zugelassen.

Aber bei mir geht es ja nicht darum, einige 10millionen E-Mails (tendenz
definitiv steiged) revisionssicher aufzuheben, sondern einfach schon mal
ein vernünftiges BACKUP System zu haben.

Aufgrund der hohen Anzahl von Dateien habe ich die Backups der ${HOME}
ja schon auf zwei gesplittet, also /Maildir/ und "sonstiges".

Habe mir schon überlegt, ob es nicht sinnvoll ist, diese "speziellen"
PRO-Kunden so zu schulen, das sie Mails die älter als 1 Jahr sind in
ein Archiv verschieben... mal sehn!

Thanks, Greetings and nice Day/Evening
Michelle Konzack
--
##################### Debian GNU/Linux Consultant ######################
Development of Intranet and Embedded Systems with Debian GNU/Linux

***@tdnet France EURL ***@tdnet UG (limited liability)
Owner Michelle Konzack Owner Michelle Konzack

Apt. 917 (homeoffice)
50, rue de Soultz Kinzigstraße 17
67100 Strasbourg/France 77694 Kehl/Germany
Tel: +33-6-61925193 mobil Tel: +49-177-9351947 mobil
Tel: +33-9-52705884 fix

<http://www.itsystems.tamay-dogan.net/> <http://www.flexray4linux.org/>
<http://www.debian.tamay-dogan.net/> <http://www.can4linux.org/>

Jabber ***@jabber.ccc.de
ICQ #328449886

Linux-User #280138 with the Linux Counter, http://counter.li.org/
Peter Wiersig
2011-03-28 09:40:03 UTC
Permalink
Nun, mittlerweile denke ich etwas anderes und ich benötige eine Lösung
um (derzeit) 36mio E-Mails zu sichern und zwar per Benutzer (derzeit 73)
Da sich im Maildir bei imap_move() und imap_copy() die Datei-Namen
verändern, versagen "find" und "rsync" kläglich.
http://linux.die.net/man/1/mbsync
mbsync - synchronize IMAP4 and Maildir mailboxes

Peter
--
Zum AUSTRAGEN schicken Sie eine Mail an debian-user-german-***@lists.debian.org
mit dem Subject "unsubscribe". Probleme? Mail an ***@lists.debian.org (engl)
Archive: http://lists.debian.org/***@london087.server4you.de
Timo Boettcher
2011-03-28 14:50:02 UTC
Permalink
Hi!
Post by Peter Wiersig
Nun, mittlerweile denke ich etwas anderes und ich benötige eine Lösung
um (derzeit) 36mio E-Mails zu sichern und zwar per Benutzer (derzeit 73)
Da sich im Maildir bei imap_move() und imap_copy() die Datei-Namen
verändern, versagen "find" und "rsync" kläglich.
http://linux.die.net/man/1/mbsync
mbsync - synchronize IMAP4 and Maildir mailboxes
Das mbsync (paket heisst isync, btw) aus Debian kann nicht rekursiv
syncen, dafuer brauchts nen Patch:
http://www.mail-archive.com/isync-***@lists.sourceforge.net/msg00082.html
Ich vermute aber mal, dass es NICHT darum ging die Mails DURCH den
imap-server zu saugen, sondern dass Filesystem-Zugriff verfuegbar ist.

Rein interessehalber:
Gibt es Zahlen, wieviel der Filesystem Overhead ausmacht?
(Welches Filesystem kommt eigentlich zum Einsatz?)
Evtl kann man da auch noch ansetzen...

Timo
--
Zum AUSTRAGEN schicken Sie eine Mail an debian-user-german-***@lists.debian.org
mit dem Subject "unsubscribe". Probleme? Mail an ***@lists.debian.org (engl)
Archive: http://lists.debian.org/***@spinnennetz.org
Michelle Konzack
2011-03-30 20:50:01 UTC
Permalink
Hello Timo Boettcher,
Post by Timo Boettcher
Das mbsync (paket heisst isync, btw) aus Debian kann nicht rekursiv
Ich vermute aber mal, dass es NICHT darum ging die Mails DURCH den
imap-server zu saugen, sondern dass Filesystem-Zugriff verfuegbar ist.
Richtig. Ich hatte versucht, mittlels einer IMAP Perl lib das direkt
über IMAP zu machen, aber das macht jeden IMAP Server nieder.
Post by Timo Boettcher
Gibt es Zahlen, wieviel der Filesystem Overhead ausmacht?
(Welches Filesystem kommt eigentlich zum Einsatz?)
Evtl kann man da auch noch ansetzen...
Du hast halt einen Zugriff per message, wenn Du also 1mio Mails hast,
mußte ein mio mal zugreifen.

Um eine Mail WIRKLICH DUP-FREI zu sichern, muß als jede mail, die beim
ersten mal erfaßt wirde einen ABSOLUT einmaligen Header bekommen wie
einen COUNTER und dann ne SHA384 dazu.

Aber ich habe gestern die Möglichkeit gehabt, mit ein paar Kunden zu
sprechen und die waren der Meinung, das sowas wie die in Courier
angebotene "BIG_BROTHER" Funktion ausreichen würde, da man im falle
eines crashes daraus wieder alles herstellen kann. BACKUP des Filters
natürlich voraussetzung.

Sprich, die Kunden können ihre "procmail", "maildrop" und "sieve" filter
einrichen wie sie wollen, hauptsache ich plaziere sowas wie

:0c
${NFS1_BACK_STORE}/${USER}/`date +%Y_%V`/
:0Ec
${LOCAL_BACK_STORE}/${USER}/`date +%Y_%V`/

an den Anfang der Filterregeln und TAR das Zeug ab.

So, das währe Nummer eins, nur wie mach ich das mit meinem eigenen
Storage?

Mein Mailinglisten-Archiv habe ich in einem seperaten Account und zu
meinem it "shared" hinzugefügt und somit keine Veränderungen am original
storage festgestellt. Das läßt sich bequem per "rsync" sichern was
allerdings eigentlich nicht WIRKLICH wichtig ist, denn das archive ist
sowas wie:

.ML_debian.user
.ML_debian.user.2010-12
.ML_debian.user.2011-01
.ML_debian.user.2011-02
.ML_debian.user-french
.ML_debian.user-french.2010-12
.ML_debian.user-french.2011-01
.ML_debian.user-french.2011-02
.ML_debian.user-german
.ML_debian.user-german.2010-12
.ML_debian.user-german.2011-01
.ML_debian.user-german.2011-02
.ML_debian.user-spanish
.ML_debian.user-spanish.2010-12
.ML_debian.user-spanish.2011-01
.ML_debian.user-spanish.2011-02
.ML_debian.user-turkish
.ML_debian.user-turkish.2010-12
.ML_debian.user-turkish.2011-01
.ML_debian.user-turkish.2011-02

wobei ".ML_debian.user-german" immer der aktive Monat ist, die lezten 40
Tage beinhaltet und danach in den "YYYY_WW" Folder verschoben wird.
Somit können alle LOCALEN Konteninhaber das gleiche Archiv lesen ohne
selber sich überall zu subscriben. Spart gut 27 GByte Mail-Traffic und
über 80 GByte WebTraffic pro Monat. (303 Mailinglisten derzeit)

Thanks, Greetings and nice Day/Evening
Michelle Konzack
--
##################### Debian GNU/Linux Consultant ######################
Development of Intranet and Embedded Systems with Debian GNU/Linux

***@tdnet France EURL ***@tdnet UG (limited liability)
Owner Michelle Konzack Owner Michelle Konzack

Apt. 917 (homeoffice)
50, rue de Soultz Kinzigstraße 17
67100 Strasbourg/France 77694 Kehl/Germany
Tel: +33-6-61925193 mobil Tel: +49-177-9351947 mobil
Tel: +33-9-52705884 fix

<http://www.itsystems.tamay-dogan.net/> <http://www.flexray4linux.org/>
<http://www.debian.tamay-dogan.net/> <http://www.can4linux.org/>

Jabber ***@jabber.ccc.de
ICQ #328449886

Linux-User #280138 with the Linux Counter, http://counter.li.org/
Martin Steigerwald
2011-03-31 16:30:03 UTC
Permalink
Post by Michelle Konzack
Post by Timo Boettcher
Gibt es Zahlen, wieviel der Filesystem Overhead ausmacht?
(Welches Filesystem kommt eigentlich zum Einsatz?)
Evtl kann man da auch noch ansetzen...
Du hast halt einen Zugriff per message, wenn Du
also 1mio Mails hast, mußte ein mio mal zugreifen.
Um eine Mail WIRKLICH DUP-FREI zu sichern, muß als jede
mail, die beim ersten mal erfaßt wirde einen
ABSOLUT einmaligen Header bekommen wie einen COUNTER und dann ne
SHA384 dazu.
Wenn BTRFS schon stable wäre und ein verläßliches fsck.btrfs existierte,
würde ich Dir ja empfehlen, sollte es schnell genug sein, BTRFS zu
verwenden, einen Snapshot zu machen und dann den Snapshot zu sichern.

Ansonsten fallen mir noch LVM-Snapshots ein, einen solchen dann Readonly
mounten und wegsichern. Aber da könnte ich mir vorstellen, dass die LVM-
Snapshot-Logik zuviel I/O generiert.

Eine weitere Idee wäre, den Mail-Empfang für eine Weile auszusetzen, bzw.
mit einem Proxy zu cachen, in der Zeit das Backup machen und dann die
Mails zuzustellen. Allerdings kann ich mir vorstellen, dass das Backup so
lange dauert, dass Kunden zu lange auf neue Mail warten müssen.
--
Martin 'Helios' Steigerwald - http://www.Lichtvoll.de
GPG: 03B0 0D6C 0040 0710 4AFA B82F 991B EAAC A599 84C7
Jochen Schulz
2011-03-28 10:30:02 UTC
Permalink
Post by Michelle Konzack
Nun, mittlerweile denke ich etwas anderes und ich benötige eine Lösung
um (derzeit) 36mio E-Mails zu sichern und zwar per Benutzer (derzeit 73)
Da sich im Maildir bei imap_move() und imap_copy() die Datei-Namen
verändern, versagen "find" und "rsync" kläglich.
An Deiner Stelle würde ich erwägen, auf ein leichter handhabbares
Storage-Backend (und damit evtl. auch einen anderen IMAP-Server)
umzusteigen. Dovecot hat bspw. das eigene Format "dbox", dessen
Beschreibung deutlich rsync-freundlicher klingt, als die von Maildir:

http://wiki2.dovecot.org/MailLocation/dbox

J.
--
I'm being paid to act weirdly.
[Agree] [Disagree]
<http://www.slowlydownward.com/NODATA/data_enter2.html>
Michelle Konzack
2011-03-30 21:00:02 UTC
Permalink
Hello Jochen Schulz,
Post by Jochen Schulz
An Deiner Stelle würde ich erwägen, auf ein leichter handhabbares
Storage-Backend (und damit evtl. auch einen anderen IMAP-Server)
umzusteigen.
Schon mal Dovecot in eine Cluster mit über 20.000 Account gefahen?

Ich bin derzeit bei 96.000 Accounts in Franreich und gut 4600 Accounts
in Deutschland, des weiteren im Ausbau des WaveLAN und FTTH in planung.

Alleine die Ortenau (Baden Würtemberg) hat 180.000 Haushalte wovon fast
30.000 Haushalte einen DSL-Zugang von unter 1,5 MBit haben (Alice, Arcor
und T-Offline lassen grüßen) KabelBW? LOL!

Wir hane es auf diese Kunden abgesehen :-D und nun lass das Netzwerk
Rhei-UAuf/Ab expandieren. Da ist Dovecot platt.
Post by Jochen Schulz
Dovecot hat bspw. das eigene Format "dbox", dessen
mbox oder mdir format?

Cyrus scheitert nämlich auch bei einigen 10.000 accounts
Post by Jochen Schulz
http://wiki2.dovecot.org/MailLocation/dbox
Ich habe 2 Round-Robins als courier-proxy configuriert:

1) courier-imap IMAP
2) courier-mta" INBOUND-MTA
plus
3) postgresql Auth (+ slony)
4) bind9 Interner DNS

und dahinter eine satte ladung an Storage-Servern mit je 2500 Accounts

Anm.: Mein Mailserver <mail.tamay-dogan.net> ist derzeit eine
eierlegende Wollmilchsau für 1), 2) und 4) zusammen und
ich habe dahinter 4 Storage Server zum testen. Das ist
insoweit gut, das Hetzner die Netz-Interne-Traffic nicht
berechnet. ;-)

Achja, sobald das Netzwerk reel auf "richtigen" Servern installiert wird
kommt zu 1) und 2) noch der "trafficserver" dazu, da die Kunden ihre
Web-Home-Verzeichnisse ebenfals auf den Storage-Servern haben.

Thanks, Greetings and nice Day/Evening
Michelle Konzack
--
##################### Debian GNU/Linux Consultant ######################
Development of Intranet and Embedded Systems with Debian GNU/Linux

***@tdnet France EURL ***@tdnet UG (limited liability)
Owner Michelle Konzack Owner Michelle Konzack

Apt. 917 (homeoffice)
50, rue de Soultz Kinzigstraße 17
67100 Strasbourg/France 77694 Kehl/Germany
Tel: +33-6-61925193 mobil Tel: +49-177-9351947 mobil
Tel: +33-9-52705884 fix

<http://www.itsystems.tamay-dogan.net/> <http://www.flexray4linux.org/>
<http://www.debian.tamay-dogan.net/> <http://www.can4linux.org/>

Jabber ***@jabber.ccc.de
ICQ #328449886

Linux-User #280138 with the Linux Counter, http://counter.li.org/
Christian Schmidt
2011-03-30 22:30:02 UTC
Permalink
Hallo Michelle,
Post by Michelle Konzack
Post by Jochen Schulz
Dovecot hat bspw. das eigene Format "dbox", dessen
mbox oder mdir format?
Weder noch bzw. sowohl als auch. Siehe <http://wiki2.dovecot.org/MailboxFormat/dbox>.

Gruss/Regards,
Christian Schmidt
--
You will get what you deserve.
--
Zum AUSTRAGEN schicken Sie eine Mail an debian-user-german-***@lists.debian.org
mit dem Subject "unsubscribe". Probleme? Mail an ***@lists.debian.org (engl)
Archive: http://lists.debian.org/***@chemie.uni-hamburg.de
Lars Schimmer
2011-03-31 08:50:03 UTC
Permalink
Post by Michelle Konzack
Hello Jochen Schulz,
Post by Jochen Schulz
An Deiner Stelle würde ich erwägen, auf ein leichter handhabbares
Storage-Backend (und damit evtl. auch einen anderen IMAP-Server)
umzusteigen.
Schon mal Dovecot in eine Cluster mit über 20.000 Account gefahen?
Ich bin derzeit bei 96.000 Accounts in Franreich und gut 4600 Accounts
in Deutschland, des weiteren im Ausbau des WaveLAN und FTTH in planung.
fastmail.fm hat mit cyrus-murder auch einige zehn-tausend clients am
laufen :-)


MfG,
Lars Schimmer
--
-------------------------------------------------------------
TU Graz, Institut für ComputerGraphik & WissensVisualisierung
Tel: +43 316 873-5405 E-Mail: ***@cgv.tugraz.at
Fax: +43 316 873-5402 PGP-Key-ID: 0x4A9B1723
--
Zum AUSTRAGEN schicken Sie eine Mail an debian-user-german-***@lists.debian.org
mit dem Subject "unsubscribe". Probleme? Mail an ***@lists.debian.org (engl)
Archive: http://lists.debian.org/***@cgv.tugraz.at
Martin Steigerwald
2011-03-31 16:30:02 UTC
Permalink
Post by Michelle Konzack
Hello Jochen Schulz,
Post by Jochen Schulz
An Deiner Stelle würde ich erwägen, auf ein leichter handhabbares
Storage-Backend (und damit evtl. auch einen anderen IMAP-Server)
umzusteigen.
Schon mal Dovecot in eine Cluster mit über 20.000 Account gefahen?
[...]
Post by Michelle Konzack
Wir hane es auf diese Kunden abgesehen :-D und nun lass das
Netzwerk Rhei-UAuf/Ab expandieren. Da ist Dovecot platt.
Oder andersherum: Ich hab auf der Arbeit mal einen Dovecot installiert, da
mir der Courier schlicht zu langsam war.

Vielleicht kommt ja auch Zimbra in Frage? Ich hab da einen Ordner kernel-
ml mit 180000 Mails. Überhaupt kein Problem von der Zimbra-Web-Oberfläche
aus. KMail kommt da via IMAP schon ins Schwitzen. Aber 180000 Mails in
einem Ordner sind ja auch etwas arg krass.
--
Martin 'Helios' Steigerwald - http://www.Lichtvoll.de
GPG: 03B0 0D6C 0040 0710 4AFA B82F 991B EAAC A599 84C7
Martin Steigerwald
2011-03-31 16:30:03 UTC
Permalink
Post by Michelle Konzack
Hello Jochen Schulz,
Post by Jochen Schulz
An Deiner Stelle würde ich erwägen, auf ein leichter handhabbares
Storage-Backend (und damit evtl. auch einen anderen IMAP-Server)
umzusteigen.
Schon mal Dovecot in eine Cluster mit über 20.000 Account gefahen?
[...]
Post by Michelle Konzack
Wir hane es auf diese Kunden abgesehen :-D und nun lass das
Netzwerk Rhei-UAuf/Ab expandieren. Da ist Dovecot platt.
Sicher? Hast Du die Dovecot-Performance gemessen? Meines Wissens und
meiner Erfahrung nach gehört Dovecot zu einem der schnellsten IMAP-Server.
--
Martin 'Helios' Steigerwald - http://www.Lichtvoll.de
GPG: 03B0 0D6C 0040 0710 4AFA B82F 991B EAAC A599 84C7
Loading...