Eine E-Mail. 40.000 Accounts gerettet.
-
Troet.Cafe und Muenchen.Social — 007.1
Kleine Änderung: wir mussten aus persönlichen Gründen das Datum um eine Woche nach hinten verschieben. Am 11. und 12. Mai finden nun die großen Umbauten an muenchen.social und troet.cafe statt! Danke für euer Verständnis :ablobcatheartsqueeze:
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
Troet.Cafe und Muenchen.Social — 008
Es geht los! Viel Durchhaltevermögen troet.cafe und muenchen.social!
Der Exakte Plan
01. Exakt gleichen Datenbank Cloud-Server bestellen wie für troet.cafe und muenchen.social. (CPX31 | x86 | 160 GB | eu-central)
02. Alle muenchen.social Server herunterfahren.
03. Die Datenbank vom muenchen.social Datenbankserver exportieren und zum neuen Cloud-Server übertragen.
04. Alle muenchen.social Server wieder hochfahren.
05. Postgresql auf der neusten (mit Mastodon kompatiblen) Version auf dem neuen Datenbank-Server aufsetzen.
06. Einen Weg finden den Datenbank-Export von muenchen.social zu importieren.
07. Alle Server wieder herunterfahren.
08. Schritte 1-5 wiederholen.
09. Den gefundenen, funktionierenden Weg in Echt mit der Live-Datenbank durchführen ohne die alten muenchen.social Server wieder hochzufahren.
10. muenchen.social Web- und Worker-Server umstellen um mit neuer Datenbank zu funktionieren.
11. muenchen.social Web- und Worker-Server auf neuste Mastodon Version updaten.
12. All das mit troet.cafe wiederholen.
Antwortet gerne auf diesen Beitrag wenn ihr Hilfe zum Thema postgresql Datenbanken (Umstellung des Datenbank-Schemas) anbieten könnt, dann melden wir uns bei euch direkt wenn wir nicht weiterkommen!
Halt stand, troet.cafe!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
-
Troet.Cafe und Muenchen.Social — 008
Es geht los! Viel Durchhaltevermögen troet.cafe und muenchen.social!
Der Exakte Plan
01. Exakt gleichen Datenbank Cloud-Server bestellen wie für troet.cafe und muenchen.social. (CPX31 | x86 | 160 GB | eu-central)
02. Alle muenchen.social Server herunterfahren.
03. Die Datenbank vom muenchen.social Datenbankserver exportieren und zum neuen Cloud-Server übertragen.
04. Alle muenchen.social Server wieder hochfahren.
05. Postgresql auf der neusten (mit Mastodon kompatiblen) Version auf dem neuen Datenbank-Server aufsetzen.
06. Einen Weg finden den Datenbank-Export von muenchen.social zu importieren.
07. Alle Server wieder herunterfahren.
08. Schritte 1-5 wiederholen.
09. Den gefundenen, funktionierenden Weg in Echt mit der Live-Datenbank durchführen ohne die alten muenchen.social Server wieder hochzufahren.
10. muenchen.social Web- und Worker-Server umstellen um mit neuer Datenbank zu funktionieren.
11. muenchen.social Web- und Worker-Server auf neuste Mastodon Version updaten.
12. All das mit troet.cafe wiederholen.
Antwortet gerne auf diesen Beitrag wenn ihr Hilfe zum Thema postgresql Datenbanken (Umstellung des Datenbank-Schemas) anbieten könnt, dann melden wir uns bei euch direkt wenn wir nicht weiterkommen!
Halt stand, troet.cafe!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
Troet.Cafe und Muenchen.Social — 008.1
Kleine Zwischenbilanz: Wir stecken bei Schritt 6 fest! Wir haben ein paar Probleme beim Importieren der Datenbank und bekommen ständig neue Fehlermeldungen. Wir haben eine interne Gruppe gegründet mit einigen Menschen die sich mit Postgresql auskennen und ihre Hilfe angeboten haben. Wir werden vielleicht gleich eine ganz andere Herangehensweise versuchen.
Es wird in diesem Abschnitt sehr technisch, deshalb entschuldigt wenn dies wenig für die normalen User ist für welche diese Plattform natürlich auch / eher gedacht ist!
Wir haben diese Nacht einen Datenbank-Export von troet.cafe angefertigt, einfach ein psql dump von dem psql-server auf der Version 10.23! Diesen zu importieren in eine leere Datenbank (psql Version 15) wirft viele Fehler auf. Die originale Datenbank von troet.cafe ist 99GB, die resultierende Datenbank nach dem Import nur noch 44GB. Also läuft irgendwas sehr schief. Die einzigen Fehlermeldungen bezogen sich auf ein „foreign key constraint”.
Wir hatten es auch mit einer Datenbank der gleichen Version versucht, doch das hat umso mehr Fehler aufgeworfen.
Wir haben daraufhin versucht das Schema der Datenbank nur zu importieren aus dem bereits existierenden dump, wobei jedoch auch 5 Fehler auftreten.
Als wir jedoch das Datenbank-Schema einzeln exportieren und einzeln importierten funktionierte dies ohne Fehler!
Nun importierten wir nur die Daten und bekamen dabei wieder hunderte Fehler mit „foreign key constraint”. Die resultierende Datenbank war lediglich 33GB. Foreign key constraints verstehe Ich so, dass sie die Integrität einer Datenbank wahren. Wenn also ein Eintrag in einer Datenbank irgendwo erwähnt wird, dieser jedoch nicht existiert, dann läuft irgendwas schief. Sowas kann zum Beispiel passieren wenn man auf Mastodon einen Beitrag favorisiert, dieser Beitrag jedoch gelöscht wird. In der Liste von favorisierten Beiträgen eines Users steht dann zwar noch der Beitrag eingetragen, doch in Echt ist er gelöscht. Durch normal auftretende Fehler können solche Ungereimtheiten in der Datenbank sich verhäufen. Doch in unserem Fall scheint irgendwas beim Import groß schief zu laufen, da Ich nicht erwarte das ⅔ der Datenbank nur Fehler sind!
Es könnte möglich sein das selbst schon beim Exportieren (dump) der Datenbank Fehler auftreten, um sicherzustellen, dass dem nicht der Fall ist, machen wir folgendes:
Unsere jetzige beste Idee ist nochmal einen psql-Server der Version 10.23 aufzusetzen und daraufhin den originalen Ordner von der troet.cafe Datenbank (
var/lib/psql/10/.
) in eine Zip zu tun (dafür müsste troet.cafe heruntergefahren werden). Diese Zip wird übertragen auf den neuen Server und dort eingespielt, so haben wir einen postgresql Server mit allen Fehlern der originalen Datenbank und können re-index sowie repair Befehle ausführen um die Datenbank zu reparieren und Ungereimtheiten wie diese zu entfernen. Dies live an der troet.cafe Instanz zu machen wäre zu gefährlich.Wenn diese Fehlerbehebungsmaßnahmen erfolgreich sind versuchen wir weitere Dinge wie:
- Die Datenbank exportieren und importieren und gucken oh Fehler auftreten.
- Das Upgraden auf höhere Versionen von psql.
Wenn dies erfolgreich ist und die daraus resultierenden Datenbanken keine Fehler mehr haben, dann ist jedes zukünftige Update leicht!
Wer mithelfen will / Erfahrung mit Datenbanken hat schreibt mich gerne auf Matrix an und kann Teil der Gruppe werden welche gerade daran arbeitet das Problem zu lösen!
Euer Team TroetCafe
️
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
-
Troet.Cafe und Muenchen.Social — 008.1
Kleine Zwischenbilanz: Wir stecken bei Schritt 6 fest! Wir haben ein paar Probleme beim Importieren der Datenbank und bekommen ständig neue Fehlermeldungen. Wir haben eine interne Gruppe gegründet mit einigen Menschen die sich mit Postgresql auskennen und ihre Hilfe angeboten haben. Wir werden vielleicht gleich eine ganz andere Herangehensweise versuchen.
Es wird in diesem Abschnitt sehr technisch, deshalb entschuldigt wenn dies wenig für die normalen User ist für welche diese Plattform natürlich auch / eher gedacht ist!
Wir haben diese Nacht einen Datenbank-Export von troet.cafe angefertigt, einfach ein psql dump von dem psql-server auf der Version 10.23! Diesen zu importieren in eine leere Datenbank (psql Version 15) wirft viele Fehler auf. Die originale Datenbank von troet.cafe ist 99GB, die resultierende Datenbank nach dem Import nur noch 44GB. Also läuft irgendwas sehr schief. Die einzigen Fehlermeldungen bezogen sich auf ein „foreign key constraint”.
Wir hatten es auch mit einer Datenbank der gleichen Version versucht, doch das hat umso mehr Fehler aufgeworfen.
Wir haben daraufhin versucht das Schema der Datenbank nur zu importieren aus dem bereits existierenden dump, wobei jedoch auch 5 Fehler auftreten.
Als wir jedoch das Datenbank-Schema einzeln exportieren und einzeln importierten funktionierte dies ohne Fehler!
Nun importierten wir nur die Daten und bekamen dabei wieder hunderte Fehler mit „foreign key constraint”. Die resultierende Datenbank war lediglich 33GB. Foreign key constraints verstehe Ich so, dass sie die Integrität einer Datenbank wahren. Wenn also ein Eintrag in einer Datenbank irgendwo erwähnt wird, dieser jedoch nicht existiert, dann läuft irgendwas schief. Sowas kann zum Beispiel passieren wenn man auf Mastodon einen Beitrag favorisiert, dieser Beitrag jedoch gelöscht wird. In der Liste von favorisierten Beiträgen eines Users steht dann zwar noch der Beitrag eingetragen, doch in Echt ist er gelöscht. Durch normal auftretende Fehler können solche Ungereimtheiten in der Datenbank sich verhäufen. Doch in unserem Fall scheint irgendwas beim Import groß schief zu laufen, da Ich nicht erwarte das ⅔ der Datenbank nur Fehler sind!
Es könnte möglich sein das selbst schon beim Exportieren (dump) der Datenbank Fehler auftreten, um sicherzustellen, dass dem nicht der Fall ist, machen wir folgendes:
Unsere jetzige beste Idee ist nochmal einen psql-Server der Version 10.23 aufzusetzen und daraufhin den originalen Ordner von der troet.cafe Datenbank (
var/lib/psql/10/.
) in eine Zip zu tun (dafür müsste troet.cafe heruntergefahren werden). Diese Zip wird übertragen auf den neuen Server und dort eingespielt, so haben wir einen postgresql Server mit allen Fehlern der originalen Datenbank und können re-index sowie repair Befehle ausführen um die Datenbank zu reparieren und Ungereimtheiten wie diese zu entfernen. Dies live an der troet.cafe Instanz zu machen wäre zu gefährlich.Wenn diese Fehlerbehebungsmaßnahmen erfolgreich sind versuchen wir weitere Dinge wie:
- Die Datenbank exportieren und importieren und gucken oh Fehler auftreten.
- Das Upgraden auf höhere Versionen von psql.
Wenn dies erfolgreich ist und die daraus resultierenden Datenbanken keine Fehler mehr haben, dann ist jedes zukünftige Update leicht!
Wer mithelfen will / Erfahrung mit Datenbanken hat schreibt mich gerne auf Matrix an und kann Teil der Gruppe werden welche gerade daran arbeitet das Problem zu lösen!
Euer Team TroetCafe
️
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
Troet.Cafe und Muenchen.Social — 008.2
Entschuldigt das fehlende Update von Gestern! Es ist sehr spät geworden und Ich wollte nach 22:00 Uhr eigentlich nur noch schlafen
Wir haben es tatsächlich geschafft! Wir haben noch keinen echten Transfer der Datenbank gemacht, jedoch haben wir mit einer Kopie der Datenbank eine erfolgreiche Migration ohne Datenverlust durchgeführt.
Alles was wir heute machen müssen ist es diese Schritte zu wiederholen währenddessen das troet.cafe heruntergefahren bleibt und zum Schluss alles auf den neuen Datenbank-Server umzustellen!
Der gestrige Tag war voll mit falschen Fehlermeldungen, Trugschlüssen, und ein Tappen im Dunkeln! Wir haben um die 50 unterschiedliche Methoden probiert und hätten noch viel mehr tun können. Letztendlich alle Fehlermeldungen an der Datenbank zu verstehen, diese in jedem Fall auf ihre Besonderheit runterzubrechen, und dann zu verstehen wo der Fehler wirklich ist, hat uns zum „Erfolg” gebracht! Auch wenn Martin bereits sehr glücklich war gibt es noch keinen Grund zu feiern, erst wenn wir das ganze in Echt durchgeführt haben!
Ein Beispiel eines solchen Trugschlusses war die unterschiedliche Größe der Datenbank nach dem Importieren. Auf troet.cafe ist die Datenbank 99GB, auf unserem Server war sie nur 33GB, dabei hatte dies einen anderen Grund. Wir dachten viele Daten waren verloren und versuchten einen Fehler zu finden wo gar keiner war! Im Nachhinein realisierten wir dann, dass wir die Lösung schon lange hatten.
Die Datenbanksoftware belügte uns auch zwischenzeitlich über die Anzahl der gespeicherten Beiträge! Das war echt witzig.
Eine vollständige Erklärung der zwei Fehler wird es demnächst geben — fürs erste ist hier der exakte Schritt für Schritt Weg, den Ich aus meinem ~40.000 Zeichen Protokoll des gestrigen Tages, herausgearbeitet habe, als das was wir tatsächlich mache müssen:
1. Troet.Cafe herunterfahren
2. Datenbank-Dump erstellen und Server offline lassen.
3. Datenbank-Schema-Clear-Text-Dump erstellen und Server offline lassen.
4. Beides auf neuen Server übertragen auf dem eine psql Datenbank der Version 15.7 eingerichtet ist.
5. Das clear-text Datenbank-Schema so editieren, dass „CREATE UNIQUE INDEX [...]” für index_preview_cards_on_url auskommentiert ist.
6. Das clear-text Datenbank-Schema importieren mit folgenden Befehl:
pg_restore -p 5432 -Fc -v -c --if-exists -U mastodon -n public --no-owner --role=mastodon -d mastodon_production /backup/mastodon_production-schema.sql
7. Den Mastodon Postgresql-User zum Superuser benennen mit folgenden Befehl:
ALTER USER mastodon WITH SUPERUSER;
(als postgres User innerhalb von psql auszuführen)8. Die Datenbank-Dump-Daten importieren als Superuser mit der Flag --disable-triggers
pg_restore -p 5432 -j 16 -Fc -a -v -U mastodon -n public --no-owner --role=mastodon --disable-triggers -d mastodon_production /backup/mastodon_production_2024-05-11.sql
9. Den Index (außer den von index_preview_cards_on_url) neu aufbauen mit folgenden Befehl:
REINDEX database mastodon_production;
10. Den Mastodon Postgresql-User die Superuser-Rechte entfernen.
ALTER USER mastodon WITH NOSUPERUSER
11. Die Service- und Worker-Server auf den neuen Datenbankserver umstellen.
12. Folgenden tootctl Befehl von einen der Service- oder Worker-Server zur Lösung von Index-Korruption ausführen:
RAILS_ENV=production bin/tootctl maintenance fix-duplicates
(In der Zukunft nach jedem Datenbank-Update den REINDEX Befehl aus Punkt 9 verwenden um dieses Problem zu vermeiden.)
13. Troet.Cafe wieder hochfahren und alles läuft wie vorher nur besser und auf einer neuen Version!
Dies ist ein klarer Schritt für Schritt Weg wie wir die Datenbank heute retten — wenn diese Hürde überwunden ist dann wird jedes Update und jede Migration in der Zukunft extrem einfach!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
-
Troet.Cafe und Muenchen.Social — 008.2
Entschuldigt das fehlende Update von Gestern! Es ist sehr spät geworden und Ich wollte nach 22:00 Uhr eigentlich nur noch schlafen
Wir haben es tatsächlich geschafft! Wir haben noch keinen echten Transfer der Datenbank gemacht, jedoch haben wir mit einer Kopie der Datenbank eine erfolgreiche Migration ohne Datenverlust durchgeführt.
Alles was wir heute machen müssen ist es diese Schritte zu wiederholen währenddessen das troet.cafe heruntergefahren bleibt und zum Schluss alles auf den neuen Datenbank-Server umzustellen!
Der gestrige Tag war voll mit falschen Fehlermeldungen, Trugschlüssen, und ein Tappen im Dunkeln! Wir haben um die 50 unterschiedliche Methoden probiert und hätten noch viel mehr tun können. Letztendlich alle Fehlermeldungen an der Datenbank zu verstehen, diese in jedem Fall auf ihre Besonderheit runterzubrechen, und dann zu verstehen wo der Fehler wirklich ist, hat uns zum „Erfolg” gebracht! Auch wenn Martin bereits sehr glücklich war gibt es noch keinen Grund zu feiern, erst wenn wir das ganze in Echt durchgeführt haben!
Ein Beispiel eines solchen Trugschlusses war die unterschiedliche Größe der Datenbank nach dem Importieren. Auf troet.cafe ist die Datenbank 99GB, auf unserem Server war sie nur 33GB, dabei hatte dies einen anderen Grund. Wir dachten viele Daten waren verloren und versuchten einen Fehler zu finden wo gar keiner war! Im Nachhinein realisierten wir dann, dass wir die Lösung schon lange hatten.
Die Datenbanksoftware belügte uns auch zwischenzeitlich über die Anzahl der gespeicherten Beiträge! Das war echt witzig.
Eine vollständige Erklärung der zwei Fehler wird es demnächst geben — fürs erste ist hier der exakte Schritt für Schritt Weg, den Ich aus meinem ~40.000 Zeichen Protokoll des gestrigen Tages, herausgearbeitet habe, als das was wir tatsächlich mache müssen:
1. Troet.Cafe herunterfahren
2. Datenbank-Dump erstellen und Server offline lassen.
3. Datenbank-Schema-Clear-Text-Dump erstellen und Server offline lassen.
4. Beides auf neuen Server übertragen auf dem eine psql Datenbank der Version 15.7 eingerichtet ist.
5. Das clear-text Datenbank-Schema so editieren, dass „CREATE UNIQUE INDEX [...]” für index_preview_cards_on_url auskommentiert ist.
6. Das clear-text Datenbank-Schema importieren mit folgenden Befehl:
pg_restore -p 5432 -Fc -v -c --if-exists -U mastodon -n public --no-owner --role=mastodon -d mastodon_production /backup/mastodon_production-schema.sql
7. Den Mastodon Postgresql-User zum Superuser benennen mit folgenden Befehl:
ALTER USER mastodon WITH SUPERUSER;
(als postgres User innerhalb von psql auszuführen)8. Die Datenbank-Dump-Daten importieren als Superuser mit der Flag --disable-triggers
pg_restore -p 5432 -j 16 -Fc -a -v -U mastodon -n public --no-owner --role=mastodon --disable-triggers -d mastodon_production /backup/mastodon_production_2024-05-11.sql
9. Den Index (außer den von index_preview_cards_on_url) neu aufbauen mit folgenden Befehl:
REINDEX database mastodon_production;
10. Den Mastodon Postgresql-User die Superuser-Rechte entfernen.
ALTER USER mastodon WITH NOSUPERUSER
11. Die Service- und Worker-Server auf den neuen Datenbankserver umstellen.
12. Folgenden tootctl Befehl von einen der Service- oder Worker-Server zur Lösung von Index-Korruption ausführen:
RAILS_ENV=production bin/tootctl maintenance fix-duplicates
(In der Zukunft nach jedem Datenbank-Update den REINDEX Befehl aus Punkt 9 verwenden um dieses Problem zu vermeiden.)
13. Troet.Cafe wieder hochfahren und alles läuft wie vorher nur besser und auf einer neuen Version!
Dies ist ein klarer Schritt für Schritt Weg wie wir die Datenbank heute retten — wenn diese Hürde überwunden ist dann wird jedes Update und jede Migration in der Zukunft extrem einfach!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
Troet.Cafe und Muenchen.Social — 008.3
Wir werden jetzt das troet.cafe herunterfahren! Postet bitte heute keine Lebensnotwendigen Informationen, denn es kann sein das wir wieder zurückgehen müssen falls doch etwas schief läuft!
Wenn troet.cafe wieder online geht tobt herum und meldet alle Fehler (falls welche auftreten) denn dann haben wir noch die Möglichkeit alles rückgängig zu machen. Wir führen jetzt einen smoke test durch!
Halt stand, troet.cafe!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
-
Troet.Cafe und Muenchen.Social — 008.3
Wir werden jetzt das troet.cafe herunterfahren! Postet bitte heute keine Lebensnotwendigen Informationen, denn es kann sein das wir wieder zurückgehen müssen falls doch etwas schief läuft!
Wenn troet.cafe wieder online geht tobt herum und meldet alle Fehler (falls welche auftreten) denn dann haben wir noch die Möglichkeit alles rückgängig zu machen. Wir führen jetzt einen smoke test durch!
Halt stand, troet.cafe!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
Troet.Cafe und Muenchen.Social — 008.4
Es läuft alles super. Alle Daten sind bisher perfekt übertragen worden. Unser Plan geht also auf — ein letzter Fix wird angestrebt und die alten Server auf die neue Datenbank umgestellt! Das schwierigste ist (glaube Ich) geschafft!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
-
Troet.Cafe und Muenchen.Social — 008.4
Es läuft alles super. Alle Daten sind bisher perfekt übertragen worden. Unser Plan geht also auf — ein letzter Fix wird angestrebt und die alten Server auf die neue Datenbank umgestellt! Das schwierigste ist (glaube Ich) geschafft!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
Troet.Cafe und Muenchen.Social — 008.5
Ach, wäre es nur so geblieben! Wir haben alles so grandios lösen können, doch das Problem das wir Gestern noch als so leicht angesehen haben stellte sich heute als eine Meisterleistung heraus:
Wir haben ~19.000.000 Einträge für link-previews (kleine Vorschau-Texte und Bilder wenn man einen Link zu einem Beitrag einfügt) in einer Tabelle der Datenbank, für diese ein Index zu erstellen ist ab v12 von Postgresql nicht mehr möglich dank einer Reduzierung der maximalen Indexgröße. Mastodon hat einen maintenance Task eingebaut welcher dieses Problem über das Entfernen duplizierter Einträge lösen soll, doch...
Aus irgendeinem uns nicht erklärlichen Grund gibt sich die Datenbank als eine höhere Version aus. Die Datenbank behauptet selbst sie benutzt ein Schema welches erst bei Mastodon 4.2.0 angewandt wurde (wir sind auf 4.1.15), jedoch schauen wir manuell nach besitzt die Datenbank einige Tabellen nicht welche sie bei dieser Version bereits haben sollte. Sie gibt sich als etwas aus das sie nicht ist. Die Maintenance-Skripte der alten Mastodon-Version, welche offiziell nicht für die identifizierte Version gemacht sind, funktionieren nicht.
Wir testen einen der vielen troet.cafe Server und machen dort (ohne das die Instanz wieder online geht) einen Upgrade-Versuch auf 4.2.0. Dort sollten die Maintenance-Skripte funktionieren, es kann jedoch sein das sie es nicht tun.
All das um einen Index zu erzeugen der viel zu groß geworden ist! Alle Daten, Bilder, Accounts, Passwörter usw. sind perfekt, reibungslos und sicher übertragen, das, so dachten wir Gestern, war die schwere Aufgabe. Doch die kleine Vorschau der Webseite wenn man einen Link beifügt, diese fehlt.
Nein, wir können sie leider nicht einfach weglassen, auch wenn der Datensatz irrelevant ist funktioniert Mastodon wahrscheinlich nicht ohne sie.
Ich bin der festen Überzeugung das wir heute eine Lösung finden, jedoch hatte Ich nach Gestern eigentlich gedacht die Lösung sei schon längst in unseren Händen!
Das troet.cafe hält stand, keine Sorge!
PS: Selbst wenn alles den Bach runtergehen würde ist nichts verloren. Wir haben tausendfach Backups und würden den Betrieb einfach so weitermachen wie zuvor. Wir sind schonmal definitiv schlauer geworden, nur noch nicht schlau genug.
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
-
Troet.Cafe und Muenchen.Social — 008.5
Ach, wäre es nur so geblieben! Wir haben alles so grandios lösen können, doch das Problem das wir Gestern noch als so leicht angesehen haben stellte sich heute als eine Meisterleistung heraus:
Wir haben ~19.000.000 Einträge für link-previews (kleine Vorschau-Texte und Bilder wenn man einen Link zu einem Beitrag einfügt) in einer Tabelle der Datenbank, für diese ein Index zu erstellen ist ab v12 von Postgresql nicht mehr möglich dank einer Reduzierung der maximalen Indexgröße. Mastodon hat einen maintenance Task eingebaut welcher dieses Problem über das Entfernen duplizierter Einträge lösen soll, doch...
Aus irgendeinem uns nicht erklärlichen Grund gibt sich die Datenbank als eine höhere Version aus. Die Datenbank behauptet selbst sie benutzt ein Schema welches erst bei Mastodon 4.2.0 angewandt wurde (wir sind auf 4.1.15), jedoch schauen wir manuell nach besitzt die Datenbank einige Tabellen nicht welche sie bei dieser Version bereits haben sollte. Sie gibt sich als etwas aus das sie nicht ist. Die Maintenance-Skripte der alten Mastodon-Version, welche offiziell nicht für die identifizierte Version gemacht sind, funktionieren nicht.
Wir testen einen der vielen troet.cafe Server und machen dort (ohne das die Instanz wieder online geht) einen Upgrade-Versuch auf 4.2.0. Dort sollten die Maintenance-Skripte funktionieren, es kann jedoch sein das sie es nicht tun.
All das um einen Index zu erzeugen der viel zu groß geworden ist! Alle Daten, Bilder, Accounts, Passwörter usw. sind perfekt, reibungslos und sicher übertragen, das, so dachten wir Gestern, war die schwere Aufgabe. Doch die kleine Vorschau der Webseite wenn man einen Link beifügt, diese fehlt.
Nein, wir können sie leider nicht einfach weglassen, auch wenn der Datensatz irrelevant ist funktioniert Mastodon wahrscheinlich nicht ohne sie.
Ich bin der festen Überzeugung das wir heute eine Lösung finden, jedoch hatte Ich nach Gestern eigentlich gedacht die Lösung sei schon längst in unseren Händen!
Das troet.cafe hält stand, keine Sorge!
PS: Selbst wenn alles den Bach runtergehen würde ist nichts verloren. Wir haben tausendfach Backups und würden den Betrieb einfach so weitermachen wie zuvor. Wir sind schonmal definitiv schlauer geworden, nur noch nicht schlau genug.
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
Troet.Cafe und Muenchen.Social — 008.6
Okay, wow. Wir haben es geschafft. Ich würde Lügen wenn Ich sage das Ich alles verstehe was unsere nun große Gruppe an Helfenden herausgefunden hat, doch die Datenbank ist hergestellt, das Troet.Cafe auf die neuste Version von 4.2.8 ge-updated und wir machen soeben die finalen Tests um alles wieder hochzufahren. Heute Abend bricht ein neues Zeitalter für troet.cafe an!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
-
Troet.Cafe und Muenchen.Social — 008.6
Okay, wow. Wir haben es geschafft. Ich würde Lügen wenn Ich sage das Ich alles verstehe was unsere nun große Gruppe an Helfenden herausgefunden hat, doch die Datenbank ist hergestellt, das Troet.Cafe auf die neuste Version von 4.2.8 ge-updated und wir machen soeben die finalen Tests um alles wieder hochzufahren. Heute Abend bricht ein neues Zeitalter für troet.cafe an!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
Troet.Cafe und Muenchen.Social — 008.7
Troet.Cafe ist online auf der neusten Version (4.2.8). Schaut alle ob es irgendwo Probleme gibt! Wenn irgendwas nicht läuft, meldet es sofort - dies ist ein smoke test!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
-
Troet.Cafe und Muenchen.Social — 008.7
Troet.Cafe ist online auf der neusten Version (4.2.8). Schaut alle ob es irgendwo Probleme gibt! Wenn irgendwas nicht läuft, meldet es sofort - dies ist ein smoke test!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
Troet.Cafe und Muenchen.Social — 008.8
Tag 1: 10 Stunden, 20 Minuten, 45 Sekunden.
Tag 2: 13 Stunden, 10 Minuten, 21 Sekunden.All das war es wert, denn das troet.cafe bleibt bestehen!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
-
Troet.Cafe und Muenchen.Social — 008.8
Tag 1: 10 Stunden, 20 Minuten, 45 Sekunden.
Tag 2: 13 Stunden, 10 Minuten, 21 Sekunden.All das war es wert, denn das troet.cafe bleibt bestehen!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
Troet.Cafe und Muenchen.Social — 009
Nun, nachdem wir die größte Aufgabe, nämlich das Beheben aller Fehler auf der Plattform troet.cafe, aber auch das Beheben aller Fehler in dessen Datenbank, bestritten und gelöst haben, kamen wenige Nachrichten unsererseits!
Seither haben wir muenchen.social und troet.cafe auf den neusten Sicherheitsversionen gehalten, doch demnächst muss auch muenchen.social das große Versionsupdate durchmachen. Da wir nun unfassbare Expertise zum Mastodon-Datenbank-Schema haben, sollte dies aber nicht zu schwierig sein (solange die Fehler der Datenbank und Plattform ähnliche sind).
Wir planen mit dem übernächsten Wochenende, also den 10. und 11. August. Erwartet an dem Tag also ein paar Downtimes auf muenchen.social. Genaueres dazu folgt aber noch!
Vor diesem Datum kommt noch etwas sehr großes an dem wir lange für euch gearbeitet haben, seid daher gespannt!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
-
Troet.Cafe und Muenchen.Social — 009
Nun, nachdem wir die größte Aufgabe, nämlich das Beheben aller Fehler auf der Plattform troet.cafe, aber auch das Beheben aller Fehler in dessen Datenbank, bestritten und gelöst haben, kamen wenige Nachrichten unsererseits!
Seither haben wir muenchen.social und troet.cafe auf den neusten Sicherheitsversionen gehalten, doch demnächst muss auch muenchen.social das große Versionsupdate durchmachen. Da wir nun unfassbare Expertise zum Mastodon-Datenbank-Schema haben, sollte dies aber nicht zu schwierig sein (solange die Fehler der Datenbank und Plattform ähnliche sind).
Wir planen mit dem übernächsten Wochenende, also den 10. und 11. August. Erwartet an dem Tag also ein paar Downtimes auf muenchen.social. Genaueres dazu folgt aber noch!
Vor diesem Datum kommt noch etwas sehr großes an dem wir lange für euch gearbeitet haben, seid daher gespannt!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
Troet.Cafe und Muenchen.Social — 010
Nach langer, langer Pause kommt nun die Überraschung! Für sehr Tech-Interessierte haben wir den gesamten Prozess der Rettung (der Datenbank) von troet.cafe in diesen gewaltigen Blog getan:
https://join-mastodon.de/de/blog/2024/07/die-rettung-vom-troet-cafe
17.831 Wörter & 196.653 Zeichen & 58 StundenViel Spaß — wenn man das so nennen kann
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
-
Troet.Cafe und Muenchen.Social — 010
Nach langer, langer Pause kommt nun die Überraschung! Für sehr Tech-Interessierte haben wir den gesamten Prozess der Rettung (der Datenbank) von troet.cafe in diesen gewaltigen Blog getan:
https://join-mastodon.de/de/blog/2024/07/die-rettung-vom-troet-cafe
17.831 Wörter & 196.653 Zeichen & 58 StundenViel Spaß — wenn man das so nennen kann
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
Troet.Cafe und Muenchen.Social — 011
Um langfristig das Café, Muenchen.Social und auch MastodonDE am Leben zu erhalten suchen wir nun Mitstreitende für Moderations- und SysAdmin-Arbeit!
https://mastodon.de/@MastodonDE/113549077607844285
Eine Erklärung wieso und wozu findet ihr hier!
Das wird ein guter Start ins nächste Jahr! Hoffe ihr könnt euch gut auf die kommende Winterzeit einlassen!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
-
Troet.Cafe und Muenchen.Social — 011
Um langfristig das Café, Muenchen.Social und auch MastodonDE am Leben zu erhalten suchen wir nun Mitstreitende für Moderations- und SysAdmin-Arbeit!
https://mastodon.de/@MastodonDE/113549077607844285
Eine Erklärung wieso und wozu findet ihr hier!
Das wird ein guter Start ins nächste Jahr! Hoffe ihr könnt euch gut auf die kommende Winterzeit einlassen!
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
Troet.Cafe und Muenchen.Social — 012
Viel ist im Hintergrund passiert, das Team ist im Aufbau – wichtigste Neuigkeit: das troet.cafe ist nun auf dem neusten Stand mit der Version 4.2.15! Muenchen.Social ist auch auf Version 4.1.22! Update zu 4.3 rückt jeden Tag näher.
Großen Dank an @Leilo welche heute neu den Zugriff bekommen hat und gleich alles updatete.
Auf ein föderiertes 2025
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
-
Troet.Cafe und Muenchen.Social — 012
Viel ist im Hintergrund passiert, das Team ist im Aufbau – wichtigste Neuigkeit: das troet.cafe ist nun auf dem neusten Stand mit der Version 4.2.15! Muenchen.Social ist auch auf Version 4.1.22! Update zu 4.3 rückt jeden Tag näher.
Großen Dank an @Leilo welche heute neu den Zugriff bekommen hat und gleich alles updatete.
Auf ein föderiertes 2025
#TroetCafeLebt #MuenchenSocialLebt #TroetCafe #MuenchenSocial #TeamTroetCafe #TeamMuenchenSocial
Troet.Cafe und Muenchen.Social — 13
Heute am Donnerstag den 19.06.2025 von 20:00 Uhr bis 23:00 Uhr werden Wartungsarbeiten am troet.cafe und muenchen.social stattfinden! Die Instanzen können währenddessen öftere Male offline gehen, oder die gesamte Zeit offline bleiben!
Notiz: Haben es auf Nachfrage nach hinten verschoben.
Bei Fragen oder Sonstiges schreibt gerne @martinmuc, @freestyle, oder @ErikUden!
Viele Grüße,
Erik Uden -
Troet.Cafe und Muenchen.Social — 13
Heute am Donnerstag den 19.06.2025 von 20:00 Uhr bis 23:00 Uhr werden Wartungsarbeiten am troet.cafe und muenchen.social stattfinden! Die Instanzen können währenddessen öftere Male offline gehen, oder die gesamte Zeit offline bleiben!
Notiz: Haben es auf Nachfrage nach hinten verschoben.
Bei Fragen oder Sonstiges schreibt gerne @martinmuc, @freestyle, oder @ErikUden!
Viele Grüße,
Erik UdenTroet.Cafe und Muenchen.Social — 13.1
Nur als Erinnerung daran das heute auf troet.cafe Wartungsarbeiten stattfinden und der Server sehr wahrscheinlich um 20:00 Uhr offline gehen wird (um ein Backup zu machen) und dann für mehrere Stunden offline bleiben wird!
Da troet.cafe in der Antike noch unter der Domain „frei.social” lief, befindet sich die Domain noch in extrem vielen Config-Einträgen. Martin änderte den Namen damals, wegen der sich ändernden Konnotation des Wortes – doch keine Entwickler:innen der heutigen Mastodon Updates rechnen mit solchen alten Einträgen oder einer Datenbank die einst für einen völlig anderen Server war! Das heißt mal wieder: wir stoßen in neues Terrain vor. Es wird sicherlich kein so langer Blog kommen wie letztes Mal, aber ein kleiner Eintrag hoffentlich.
Als nächstes kommt dann natürlich auch muenchen.social dran, wir haben euch nicht vergessen! Doch wie immer: den größten Brocken zuerst.
-
Troet.Cafe und Muenchen.Social — 13.1
Nur als Erinnerung daran das heute auf troet.cafe Wartungsarbeiten stattfinden und der Server sehr wahrscheinlich um 20:00 Uhr offline gehen wird (um ein Backup zu machen) und dann für mehrere Stunden offline bleiben wird!
Da troet.cafe in der Antike noch unter der Domain „frei.social” lief, befindet sich die Domain noch in extrem vielen Config-Einträgen. Martin änderte den Namen damals, wegen der sich ändernden Konnotation des Wortes – doch keine Entwickler:innen der heutigen Mastodon Updates rechnen mit solchen alten Einträgen oder einer Datenbank die einst für einen völlig anderen Server war! Das heißt mal wieder: wir stoßen in neues Terrain vor. Es wird sicherlich kein so langer Blog kommen wie letztes Mal, aber ein kleiner Eintrag hoffentlich.
Als nächstes kommt dann natürlich auch muenchen.social dran, wir haben euch nicht vergessen! Doch wie immer: den größten Brocken zuerst.
Troet.Cafe und Muenchen.Social — 13.2
Wir kümmern uns doch als erstes um muenchen.social, danach ist troet.cafe fällig!
muenchen.social wird gleich offline gehen!
-
Troet.Cafe und Muenchen.Social — 13.2
Wir kümmern uns doch als erstes um muenchen.social, danach ist troet.cafe fällig!
muenchen.social wird gleich offline gehen!
Troet.Cafe und Muenchen.Social — 13.3
Nach ein paar Problemen mit Node, IPv6, und ElasticSearch ist muenchen.social nun in der neusten (stabilen) Version wieder online! v4.3.8!
Unser Testlauf war ein Erfolg, demnächst nehmen wir uns troet.cafe vor!
-
Troet.Cafe und Muenchen.Social — 13.3
Nach ein paar Problemen mit Node, IPv6, und ElasticSearch ist muenchen.social nun in der neusten (stabilen) Version wieder online! v4.3.8!
Unser Testlauf war ein Erfolg, demnächst nehmen wir uns troet.cafe vor!
Troet.Cafe und Muenchen.Social — 13.4
Natürlich darf auch das beliebte „Tröt!” anstelle des Wortes „Veröffentlichen” nicht fehlen!
-
Troet.Cafe und Muenchen.Social — 13.4
Natürlich darf auch das beliebte „Tröt!” anstelle des Wortes „Veröffentlichen” nicht fehlen!
Troet.Cafe und Muenchen.Social — 13.5
Jetzt ist troet.cafe dran! Alles ist offline, wir machen große Updates. Mit wir meine Ich @freestyle! Gewaltigen Dank an dich!!
️
-
Troet.Cafe und Muenchen.Social — 13.5
Jetzt ist troet.cafe dran! Alles ist offline, wir machen große Updates. Mit wir meine Ich @freestyle! Gewaltigen Dank an dich!!
️
Troet.Cafe und Muenchen.Social — 13.6
Alle Updates waren erfolgreich! Großes Lob an @freestyle
️
Ich sehe dies als einen großen Meilenstein für das Café und muenchen.social an! Vorher war es wichtig überhaupt ein Update zu schaffen, da dies unter Beweis stellte: Die Datenbank ist zu retten. Nun haben wir als größter Mastodon-Server Deutschlands gezeigt, dass nicht nur irgendein, sondern auch das neuste Update möglich ist!
Ein neues troet.cafe erblickt die Welt! Neuste Version, gleiches Café
. Wer nicht um 02:43 auf Mastodon herumlungert, sondern ein funktionierendes Mitglied dieser Gesellschaft ist, der wird sicherlich erstaunt sein die Instanz seines Vertrauens auf ein Mal auf dem neusten Stand zu sehen.
Nach fast 1,5 Jahren war dies auch irgendwie an der Zeit. Darüber hinaus wurden DeepL Übersetzungen bei muenchen.social wieder eingeführt (wir überlegen diese bei troet.cafe auch zurückzubringen) und selbstverständlich der „Tröt!”-Knopf exklusiv auf unsere Plattformen zurückgebracht.
Wenn es irgendwo Probleme gibt wisst ihr wo ihr euch melden könnt! Ich gehe mal schlafen, dabei sollten es vor 3 Stunden doch „nur noch 5 Minuten” sein