{"id":13613,"date":"2022-03-09T07:21:21","date_gmt":"2022-03-09T06:21:21","guid":{"rendered":"https:\/\/wpethzprd.ethz.ch\/id\/?p=13613"},"modified":"2022-03-09T07:46:24","modified_gmt":"2022-03-09T06:46:24","slug":"globus-erleichtert-den-transfer-wissenschaftlicher-daten","status":"publish","type":"post","link":"https:\/\/blogs.ethz.ch\/id\/2022\/03\/09\/globus-erleichtert-den-transfer-wissenschaftlicher-daten\/","title":{"rendered":"Globus erleichtert den Transfer wissenschaftlicher Daten"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Globus: ein neuer Service der HPC-Gruppe von Scientific IT Services (ID SIS).<\/p>\n\n\n\n<!--more-->\n\n\n\n<p class=\"wp-block-paragraph\">Globus, als Z\u00fcrcher denke ich da nat\u00fcrlich zuerst an das Warenhaus an der Bahnhofstrasse. In der Welt des wissenschaftlichen Rechnens steht <a rel=\"noreferrer noopener\" href=\"https:\/\/www.globus.org\" data-type=\"URL\" target=\"_blank\">Globus<\/a> allerdings f\u00fcr einen Daten-Managementservice, der es erlaubt Terabytes von Daten auf einfache Art weltweit zu transferieren und zu organisieren.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Kurz, Globus wurde entwickelt, um grosse Datenmengen zu managen, die an der ETH Z\u00fcrich oder an anderen Forschungsinstitutionen auf der ganzen Welt gespeichert sind. Mit Globus k\u00f6nnen die Benutzenden:<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li><strong>Dateien transferieren: <\/strong>Von Kilobytes bis zu Petabytes; mit Globus k\u00f6nnen Daten effizient, zuverl\u00e4ssig und sicher verschoben werden, innerhalb der ETH Z\u00fcrich und zwischen den Kontinenten.<\/li><li><strong>Daten mit anderen teilen:<\/strong> Alles was es braucht, um Daten mit Kolleginnen oder Kollegen zu teilen, ist eine E-Mail-Adresse &#8211; Globus erledigt die Authentifizierung und den Zugang. Und es k\u00f6nnen auch Daten \u00f6ffentlich publiziert werden.<\/li><li><strong>Apps und Gateways entwickeln: <\/strong>Mit REST APIs und dem Python SDK k\u00f6nnen auch eigene Datenapplikationen massgeschneidert werden.<\/li><\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Globus wird weltweit von HPC-Zentren benutzt. Der einfach Grund ist: HPC (High Performance Computing) heisst auch oft, dass grosse Datens\u00e4tze involviert sind. Und es ist \u00fcblich, dass Daten zwischen verschiedenen HPC-Zentren ausgetauscht werden; sei es von Benutzenden, die an verschiedenen Orten rechnen oder f\u00fcr die Zusammenarbeit in Forschungsprojekten.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Globus stammt aus der Zeit als Cloud noch Grid hiess<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Der Globus-Service baut auf gridFTP auf, welches auf die gute alte FTP-Technologie zur\u00fcckgeht. Man k\u00f6nnte gridFTP als einen FTP-Service auf Stereoiden und mit zus\u00e4tzlichen Funktionen bezeichnen. Zum Beispiel die Parallelisierung der Datenstr\u00f6me und einen verschl\u00fcsselten Authentifizierungskanal. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Urspr\u00fcnglich war gridFTP Teil des quellenoffenen Globus-Toolkits, dem Offiziersmesser f\u00fcr Grid-Computing. Grid heisst jetzt Cloud, die Benutzung ist einfacher geworden, und damit auch brauchbar f\u00fcr <em>digital natives<\/em>. Die gr\u00f6sste Schwierigkeit dieses veralteten Toolkits und damit von gridFTP war der aufw\u00e4ndige Umgang mit den Zertifikaten. Dennoch wurde gridFTP gerne benutzt, um grosse Datenmengen zu kopieren, auch wenn die Vorbereitung oft mehr Zeit beanspruchte als der Transfer.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Der Transfer grosser Datenmengen als Service<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Die beiden Hauptschwierigkeiten bei der Benutzung von gridFTP waren der Umgang mit den Zertifikaten, insbesondere der sogenannten <em>short live certificates<\/em> und das Fehlen eines graphischen Benutzerinterface. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">An dieser Stelle \u00fcbernahmen unsere  Kolleginnen und Kollegen der <a rel=\"noreferrer noopener\" href=\"https:\/\/its.uchicago.edu\/#xd_co_f=YTE0OTdjZmYtOWM4YS00ZGExLWFhNjYtNmU5ZTgyNjdlNTM4~\" target=\"_blank\">Universit\u00e4t Chicago<\/a>. Sie bauten ein System, welches den Umgang mit den Zertifikaten, also mit der Benutzer-Authentifizierung, transparent und damit einfach benutzbar f\u00fcr Forschende auf der ganzen Welt gemacht haben. Dabei st\u00fctzten sie sich auf das <a rel=\"noreferrer noopener\" href=\"https:\/\/internet2.edu\/\" target=\"_blank\">Internet2-Netzwerk<\/a> ab. Das bedeutet Benutzende k\u00f6nnen mit dem ETH Usernamen bei Globus einloggen und zwar auf die gleiche Art wie bei vielen unserer Webseiten. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Der Globus-Service beinhaltet einen Webbasierten Filemanager, der es einfach macht, grosse Daten Mengen von A nach B zu kopieren, w\u00e4hrend man selbst an seinem Notebook C sitzt, welcher solche Datenmengen gar nicht speichern k\u00f6nnte.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Eine Globus-Subskription f\u00fcr die ETH Z\u00fcrich<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Ein komplexes System wie Globus zu unterhalten, ist nicht gratis. Deshalb hat die Universit\u00e4t Chicago entschieden, viele Funktionen von Globus nur den Institutionen zug\u00e4nglich zu machen, welche den Dienst abonnieren. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Um den HPC-Benutzenden das volle Potential von Globus anzubieten, hat sich die HPC-Gruppe dazu entschieden, eine Subskription f\u00fcr Globus zu erwerben, welche f\u00fcr die ganze ETH nutzbar ist. Das heisst alle mit einem ETH-Login k\u00f6nnen Globus voll benutzen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Departemente, Institute oder andere Einheiten, welche ihren eigenen Storage direkt mit Globus verbinden wollen, k\u00f6nnen vom HPC-Team eine kostenpflichtige Subskription erhalten. Mehr Information dazu ist \u00fcber <a rel=\"noreferrer noopener\" href=\"mailto:globus-support@id.ethz.ch\" target=\"_blank\">globus-support@id.ethz.ch<\/a> erh\u00e4ltlich.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Mit Globus beginnen<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Um einen ersten Blick auf Globus zu erhalten, k\u00f6nnen Benutzende die URL <a rel=\"noreferrer noopener\" href=\"http:\/\/app.globus.org\" target=\"_blank\">http:\/\/app.globus.org<\/a> in ihrem Browser eingeben. Dann ETH Z\u00fcrich aus dem <em>Dropdown<\/em>-Men\u00fc ausw\u00e4hlen und mit dem ETH Usernamen einloggen. Im Filemanager, der sich dann \u00f6ffnet, kann nach ETH Z\u00fcrich oder Euler gesucht werden. Der Euler-Service wird in den n\u00e4chsten Wochen als produktiver Service erstellt werden. Um auf dem Laufenden zu bleiben, bietet sich die ETH interne <a rel=\"noreferrer noopener\" href=\"https:\/\/sympa.ethz.ch\/sympa\/info\/hpc-globus\" target=\"_blank\">HPC-Globus-Mailingliste<\/a> an.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Detaillierte Anleitungen wie Globus benutzt werden kann, folgen bald auf <a rel=\"noreferrer noopener\" href=\"https:\/\/scicomp.ethz.ch\/wiki\/Storage_systems#File_transfer\" target=\"_blank\">scicomp.ethz.ch<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Globus: ein neuer Service der HPC-Gruppe von Scientific IT Services.<\/p>\n","protected":false},"author":42779,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[257890,25,890,898,1178],"tags":[296630,2826,141856,296626,296627,888,173296,296625,296628,296624,296629,141857],"class_list":["post-13613","post","type-post","status-publish","format-standard","hentry","category-it-sich","category-news","category-speicher","category-support","category-wissenschaftl-rechnen","tag-daten-managementservice","tag-datenmanagement","tag-euler","tag-globus","tag-gridftp","tag-hpc","tag-id-sis","tag-petabytes","tag-scientific-it-service","tag-terabytes","tag-transfer-wissenschaftlicher-daten","tag-wissenschaftliches-rechnen"],"_links":{"self":[{"href":"https:\/\/blogs.ethz.ch\/id\/wp-json\/wp\/v2\/posts\/13613","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blogs.ethz.ch\/id\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.ethz.ch\/id\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.ethz.ch\/id\/wp-json\/wp\/v2\/users\/42779"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.ethz.ch\/id\/wp-json\/wp\/v2\/comments?post=13613"}],"version-history":[{"count":0,"href":"https:\/\/blogs.ethz.ch\/id\/wp-json\/wp\/v2\/posts\/13613\/revisions"}],"wp:attachment":[{"href":"https:\/\/blogs.ethz.ch\/id\/wp-json\/wp\/v2\/media?parent=13613"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.ethz.ch\/id\/wp-json\/wp\/v2\/categories?post=13613"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.ethz.ch\/id\/wp-json\/wp\/v2\/tags?post=13613"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}