Im vorheriger Artikel dieser Serie, Operation in allen Bereichen der Informatik: Matrixmultiplikation. Es wird häufig in neuronalen Netzen verwendet, um die Aktivierung linearer Schichten zu berechnen. Aktivierungen allein sind jedoch schwer zu interpretieren, da ihre Werte und Statistiken (Mittelwert, Varianz, Min-Max-Amplitude) von Schicht zu Schicht stark variieren können. Dies ist einer der Gründe, warum wir Aktivierungsfunktionen verwenden, zum Beispiel die Logistikfunktion (auch bekannt als Sigmoid), die jede reelle Zahl in projiziert (0; 1) Reichweite.

Die Softmax-Funktion, auch normalisierte Exponentialfunktion genannt, ist eine mehrdimensionale Verallgemeinerung des Sigmoids. Es wandelt einen Vektor von Rohwerten (Logits) in einen um Wahrscheinlichkeitsverteilung über M Klassen. Wir können es als a interpretieren gewichteter Durchschnitt das verhält sich wie ein reibungslose Funktion und kann bequem sein differenziert. Es ist eine entscheidende Komponente der Skalarproduktaufmerksamkeit, der Sprachmodellierung und der multinomialen logistischen Regression.

In diesem Artikel behandeln wir Folgendes:

1. Implementierung eines effizienten Softmax-Kernels in Triton.
2. Implementierung des Rückwärtsdurchlaufs (autograd).
3. Optimierung: Cache-Modifikatoren und Auto-Tuning.

Wenn Sie Triton noch nicht kennen, lesen Sie die vorherigen Artikel!

Haftungsausschluss: Sofern nicht anders angegeben, stammen alle Illustrationen und Animationen vom Autor.

Definition

Der Softmax ist wie folgt definiert:

Die Normalisierung stellt sicher, dass sich der Vektor summiert 1sodass sie als gültige Wahrscheinlichkeitsverteilung interpretiert werden kann.

Beachten Sie, dass diese Formulierung des Softmax sehr empfindlich reagiert numerischer Überlauf. Denken Sie daran, dass der Maximalwert ein Commonplace ist float16 darstellen kann ist 65 504was ungefähr ist exp(11). Dies bedeutet, dass jeder Eingabewert größer als ~11 zu führt exp(z_i) Überschreiten des darstellbaren Bereichs, was dazu führt Überlauf.

Ein gängiger Trick, um dieses Drawback zu entschärfen, besteht darin, den Maximalwert des Eingabevektors von jedem Factor zu subtrahieren, sodass sich das neue Most ergibt 0 vor Potenzierung und 1 nach.

Naive Implementierung

Wie Sie sehen, ist die Berechnung des Softmax erforderlich zwei ReduktionsoperationenA max und a Summe. Ein naiver Algorithmus erfordert drei separate Durchgänge über den Eingabevektor. Zuerst wird das Most berechnet, dann die Summe und schließlich die normalisierten Ausgaben.

So sieht eine naive Numpy-Implementierung aus:

Ein wiederkehrendes Thema in dieser Triton-Serie ist die Minimierung hoher Latenzzeiten globaler Speicherzugriff. Unsere aktuelle Numpy-Implementierung erfordert drei separate Speicherlesevorgänge des vollständigen Eingabevektors, was äußerst ineffizient ist.

On-line-Softmax

Glücklicherweise können wir einen cleveren Trick anwenden, der sogenannte On-line-Softmaxum die zu verschmelzen max Und sum Schritte, wodurch die Anzahl der Speicherlesevorgänge reduziert wird 2.

Zunächst definieren wir die Summe der Exponentialfunktionen rekursiv. In der folgenden Reihe von Gleichungen gilt: m_i bezieht sich auf das Most über x bis zum ich-ter Index.

Diese Gleichheit ermöglicht es uns, die Summe der Exponentialfunktionen zu berechnen iterativ unter Verwendung des Maximalwerts bis jetzt. Wir können es nutzen, um die erste und zweite Schleife in der naiven Implementierung zu verschmelzen und das Most und die Summe der Exponentialfunktionen iterativ zu berechnen.

Unser Algorithmus wird:

Dies lässt sich leicht in Numpy übersetzen:

Nachdem wir nun die Hauptprinzipien hinter dem Softmax verstanden haben, werden wir es in Triton implementieren, angefangen bei der einfachen Einzelblockversion bis hin zur On-line-Mehrblockformulierung. Letztendlich möchten wir, dass sich unser Kernel wie ein PyTorch-Modul verhält und mit diesem kompatibel ist autograd.

Leider verhalten sich Triton-Kernel aus Sicht von PyTorch wie Black Packing containers: Die von ihnen ausgeführten Operationen werden nicht nachverfolgt autograd. Dies erfordert, dass wir den Rückwärtsdurchlauf selbst implementieren und explizit angeben, wie Gradienten berechnet werden sollen. Lassen Sie uns unsere geliebte Kettenregel auffrischen und den Softmax-Gradienten ableiten.

Gradient

Da die Ausgaben des Softmax streng positiv sind, können wir das verwenden logarithmische Ableitung um die Ableitung des Gradienten zu erleichtern. Hier nehmen wir die Ableitung von Protokoll der Ausgabe und wenden Sie die Kettenregel an:

Von dort aus ordnen wir die Begriffe neu und folgen diesen Schritten:

Nehmen wir nun an, dass wir einen Upstream-Gradienten haben, der beispielsweise durch eine Verlustfunktion erzeugt wird L (zB ein Kreuzentropieverlust). Wir erhalten den folgenden Ausdruck des Gradienten:

Die Vereinfachung des linken Begriffs in (9) liegt daran, dass δ_ij wird nur gleich sein 1 für die ich-tes Factor, wodurch die Summe zusammenfällt J auf einen einzigen Begriff.

Triton-Implementierung

Einzelblock Softmax

Nachdem wir nun die Ableitung des Gradienten durchgearbeitet haben, können wir die Vorwärts- und Rückwärts-Softmax-Kernel schreiben. Konzentrieren wir uns zunächst auf den PyTorch-Wrapper, um zu verstehen, wie die Einzelblockimplementierung auf hoher Ebene funktioniert. Bei einem 2D-Eingabetensor verarbeiten die Vorwärts- und Rückwärtskerne alle Zeilen parallel.

Der Einfachheit halber definieren wir die BLOCK_SIZE groß genug sein, um alle Spalten gleichzeitig zu verarbeiten. Konkret legen wir es als die nächste Potenz von 2 fest, die über der Anzahl der Spalten liegt, wie von Triton gefordert.

Dann definieren wir unser „Raster“ als die Anzahl der Zeilen (es könnte möglicherweise auch eine Batch-Dimension verarbeiten).

Der PyTorch-Wrapper für unsere SoftmaxSingleBlock ist eine Klasse, von der erbt torch.autograd.Perform das umsetzt ahead Und backward. Beide Methoden dauern eine ctx Argument, das wir verwenden werden, um die Softmax-Ausgaben während des Vorwärtsdurchlaufs zwischenzuspeichern und sie während des Rückwärtsdurchlaufs wiederzuverwenden.

Beide Kernel sind ziemlich unkompliziert. Wir beginnen mit dem Laden der Zeileneingaben mit derselben Syntax wie in meinem vorherigen Vektoraddition Artikel. Beachten Sie das BLOCK_SIZE Und num_warps werden mit a berechnet calculate_settings Funktion. Diese Funktion stammt aus dem Unfault Bibliothek und wurde in anderen Kernel-Bibliotheken wiederverwendet, z LigerKernel (auf dem die Kernel in diesem Artikel lose basieren) bietet es Heuristiken zum Optimieren beider Variablen:

def calculate_settings(n: int) -> tuple(int, int):
 MAX_FUSED_SIZE = 65536 # most grid dimension on Nvidia GPUs
    BLOCK_SIZE = next_power_of_2(n)
    if BLOCK_SIZE > MAX_FUSED_SIZE:
        # we take away this assertion on this article
        increase RuntimeError(
            f"Can not launch Triton kernel since n = {n} exceeds "
            f"the utmost CUDA blocksize = {MAX_FUSED_SIZE}."
        )
    num_warps = 4
    if BLOCK_SIZE >= 32768:
        num_warps = 32
    elif BLOCK_SIZE >= 8192:
        num_warps = 16
    elif BLOCK_SIZE >= 2048:
        num_warps = 8
    return BLOCK_SIZE, num_warps

Dann implementieren wir den regulären Softmax für den Vorwärtsdurchlauf und die Gleichung (10) für den Rückwärtspass. Die einzige Neuerung im Vergleich zu früheren Artikeln ist die Verwendung von Cache-Modifikatoren, die dem Compiler mitteilen, wie Daten zwischengespeichert und entfernt werden sollen. Im Second konzentrieren wir uns nur auf drei Cache-Modifikatoren:

• .ca (Cache auf allen Ebenen): Weist den Compiler an, die Daten sowohl in den L1- als auch in den L2-Cache zu laden, was darauf hindeutet, dass sie bald wiederverwendet werden könnten. Dieser Modifikator sollte verwendet werden, wenn die Daten klein genug sind, um in L1 zu passen (~128–192 KB professional SM auf einem A100) und wahrscheinlich wiederholt darauf zugegriffen wird.
• .cs (Streaming): Daten behandeln als Streamingwird es einmal verwendet und dann verworfen, um Platz in L1 freizugeben.
• .wb (Zurückschreiben): Normales zwischengespeichertes Schreiben, die Daten bleiben in der Cache-Hierarchie, intestine, wenn die Ausgabe wiederverwendet werden kann.

In den folgenden Kerneln verwenden wir die .ca Modifikator für Ladungen, da wir mehrere Operationen an den geladenen Daten durchführen. Zum Speichern verwenden wir .cs im Vorwärtsdurchlauf, da die Ausgaben nicht sofort wiederverwendet werden und .wb im Rückwärtsgang da im Kontext von autograd (dh die Kettenregel), Gradientenausgaben werden von nachgeschalteten Kerneln verbraucht.

Multiblock-Softmax

Werfen wir nun einen Blick auf die On-line-Formulierung des Softmax. In diesem Abschnitt implementieren wir eine Multiblock-Variante des vorherigen Kernels. Diese Model wird verwendet BLOCK_SIZE < n_colsmit anderen Worten, wir laden nur eine Kachel mit BLOCK_SIZE Elemente nacheinander, ähnlich wie wir mit gekacheltem GEMM in der umgegangen sind letztes Tutorial. Nun fragen Sie sich vielleicht: „Wie wählen wir die Blockgröße aus?“

Dies ist eine großartige Gelegenheit, Triton vorzustellen autotune Dienstprogramm. Ausgestattet mit einer Liste der Konfigurationen, autotune führt eine Rastersuche durch, um die beste Konfiguration für eine bestimmte Eingabeform zu ermitteln und zwischenzuspeichern. Dieser Vorgang wird jedes Mal wiederholt, wenn eine neue Eingabeform an den Kernel übergeben wird.

Hier führen wir mit der folgenden Hilfsfunktion eine Rastersuche über die Blockgröße und die Anzahl der Warps durch:

from itertools import product

# --- Multi Block Tuning ---
BLOCK_SIZES = (256, 512, 1024, 2048, 4096, 8192)
NUM_WARPS = (2, 4, 8, 16)

def get_autotune_config(
    block_sizes: listing(int), num_warps: listing(int)
) -> listing(triton.Config):
    return (
        triton.Config(kwargs={"BLOCK_SIZE": bs}, num_warps=nw)
        for (bs, nw) in listing(product(block_sizes, num_warps))
    )

Wir können jetzt unsere Multi-Block-Kernel damit dekorieren autotune und übergeben Sie die Liste der Konfigurationen, key=”n_cols” gibt an, dass die optimale Konfiguration von der Anzahl der Spalten der Eingabe abhängt.

Die Implementierung dieser Kernel ähnelt konzeptionell sehr dem zuvor behandelten On-line-Softmax. Der Hauptunterschied besteht darin, dass wir über Kacheln iterieren (nicht über einzelne Elemente wie in Numpy), was einige Anpassungen erfordert. Zum Beispiel addieren wir eine Summe über die Kachel im d Replace und der Rückwärtskernel erfordern nun ebenfalls zwei Iterationen.

Hinweis: Der PyTorch-Wrapper ist genau derselbe, außer dass wir die Zeile wo löschen BLOCK_SIZE Und num_warps werden deklariert (da sie ausgewählt werden von autotune).

Testen und Benchmarking

Wir können nun einen Vorwärts- und Rückwärtsdurchlauf mit beiden Kerneln ausführen und sicherstellen, dass sie mit den PyTorch-Baselines übereinstimmen:

def validate_kernel(kernel_fn: callable) -> None:
    system = "cuda:0" if torch.cuda.is_available() else "cpu"
    torch.random.manual_seed(0)

    # Generate inputs
    x = torch.randn((256, 512), system=system) # triton enter
    x.requires_grad = True
    xt = deepcopy(x) # torch enter

    triton_output = kernel_fn(x)
    torch_output = torch.softmax(xt, dim=1)
    torch.testing.assert_close(triton_output, torch_output) # take a look at fwd kernel

    # Setup pretend labels
    y = torch.zeros_like(x)
    inds = (torch.arange(0, y.form(0)), torch.randint(0, 3, (y.form(0),)))
    y(inds) = 1

    # Outline loss and run backward go
    loss_fn = torch.nn.CrossEntropyLoss()
    loss = loss_fn(torch_output, y)
    loss.backward()

    # Save gradient tensor for later
    torch_xgrad = xt.grad.detach().clone()
    triton_loss = loss_fn(triton_output, y)
    triton_loss.backward()
    torch.testing.assert_close(x.grad, torch_xgrad) # take a look at grad outputs

validate_kernel(softmax_sb)
validate_kernel(softmax_mb)

Abschließend vergleichen wir unsere Implementierung mit der PyTorch-Basislinie mithilfe des folgenden Snippets:

# --- Supply: Triton softmax tutorial ---
@triton.testing.perf_report(
    triton.testing.Benchmark(
        x_names=("N"),  # argument names to make use of as an x-axis for the plot
        x_vals=(
            128 * i for i in vary(2, 100)
        ),  # totally different doable values for `x_name`
        line_arg="supplier",  # argument title whose worth corresponds to a unique line within the plot
        line_vals=(
            "triton_single_block",
            "triton_multi_block",
            "torch",
        ),  # doable values for `line_arg``
        line_names=(
            "Triton_single_block",
            "Triton_multi_block",
            "Torch",
        ),  # label title for the traces
        kinds=(("blue", "-"), ("inexperienced", "-"), ("crimson", "-")),
        ylabel="GB/s",  # label title for the y-axis
        plot_name="softmax-performance",  # title for the plot. Used additionally as a file title for saving the plot.
        args={"M": 4096},  # values for perform arguments not in `x_names` and `y_name`
    )
)
def benchmark(M, N, supplier):
    x = torch.randn(M, N, system=DEVICE, dtype=torch.float32)
    stream = getattr(torch, DEVICE.sort).Stream()
    getattr(torch, DEVICE.sort).set_stream(stream)
    if supplier == "torch":
        ms = triton.testing.do_bench(lambda: torch.softmax(x, axis=-1))
    if supplier == "triton_single_block":
        torch.cuda.synchronize()
        ms = triton.testing.do_bench(lambda: softmax_sb(x))
        torch.cuda.synchronize()
    if supplier == "triton_multi_block":
        torch.cuda.synchronize()
        ms = triton.testing.do_bench(lambda: softmax_mb(x))
        torch.cuda.synchronize()
    gbps = lambda ms: 2 * x.numel() * x.element_size() * 1e-9 / (ms * 1e-3)
    return gbps(ms)

benchmark.run(show_plots=True, print_data=True)

Gute Nachrichten! Unser Single-Block-Kernel übertrifft durchweg die PyTorch-Basislinie, während die Multi-Block-Variante bei Eingaben mit mehr als 6.000 Spalten abfällt:

Betrachtet man größere Eingaben, können wir mehrere Beobachtungen machen:

1. Der Multiblock-Kernel stabilisiert schließlich einen Durchsatz von etwa 900 GB/s und übertrifft damit die PyTorch-Basislinie für Eingaben mit mehr als 30.000 Spalten.
2. Interessanterweise scheint die Multiblock-Variante bei Eingaben mit mehr als 60.000 Spalten dominant zu sein.
3. Auch wenn wir mit der Single-Block-Variante die maximale Blockgröße überschreiten, läuft der Kernel aus irgendeinem Grund immer noch reibungslos. Tatsächlich verwaltet Triton die Blockgröße automatisch unter der Haube.
   Wann n_cols größer als das Hardwarelimit ist, zerlegt Triton die Eingabe und iteriert darüber. Dies scheint jedoch langsamer zu sein als der Multiblock-Ansatz.

Um noch weiter zu gehen, könnten wir beide Ansätze in einem einzigen Kernel kombinieren, der explizit den optimalen Kernel basierend auf der Eingabegröße auswählt. Auf diese Weise würden wir von der hohen Leistung des Single-Block-Kernels für kleine Eingaben und dem höheren Durchsatz der Multi-Block-Variante für Eingaben mit mehr als 60.000 Spalten profitieren.

Damit ist die dritte Folge dieser Triton-Serie abgeschlossen. Nochmals vielen Dank für Ihre Unterstützung!

Im nächsten Artikel werden wir die On-line-Softmax-Formulierung im Kontext von nutzen Blitzaufmerksamkeit.

Bis zum nächsten Mal!

Ressourcen:

Mit künstlichen Intelligenz haben MIT -Forscher eine neue Möglichkeit, Nanopartikel zu entwerfen, die RNA -Impfstoffe und andere Arten von RNA -Therapien effizienter liefern können.

Nach dem Coaching eines maschinellen Lernmodells zur Analyse von Tausenden vorhandenen Lieferpartikeln benutzten die Forscher es, um neue Materialien vorherzusagen, die noch besser funktionieren würden. Das Modell ermöglichte es den Forschern auch, Partikel zu identifizieren, die in verschiedenen Zellenarten intestine funktionieren, und Wege zu ermitteln, um neue Arten von Materialien in die Partikel einzubeziehen.

„Wir haben maschinelle Lernwerkzeuge angewendet, um die Identifizierung optimaler Bestandteilmischungen in Lipid-Nanopartikeln zu beschleunigen, um einen anderen Zelltyp zu zielen oder verschiedene Materialien zu berücksichtigen, die viel schneller als bisher möglich waren“, sagt Giovanni Traverso, Affiliate Professor of Mechanical Engineering bei MIT, einem Gastroenterologen bei Brigham und Girls, und der älteren Autorik.

Dieser Ansatz könnte den Prozess der Entwicklung neuer RNA -Impfstoffe sowie Therapien, die zur Behandlung von Fettleibigkeit, Diabetes und anderen Stoffwechselstörungen verwendet werden könnten, dramatisch beschleunigen, so die Forscher.

Alvin Chan, ein ehemaliger MIT Postdoc, der jetzt Assistenzprofessor an der Nanyang Technological College ist, und Ameya Kirtane, ehemaliger MIT Postdoc, der jetzt Assistenzprofessor an der College of Minnesota ist, sind die Hauptautoren der neuen Open-Entry-Studie, die, die, die die sichtbart, die, die sich befindet, die die sich auf die Open-Entry-Studie befindet, die, die sie erscheint heute In Natur Nanotechnology.

Partikelvorhersagen

RNA-Impfstoffe wie die Impfstoffe für SARS-COV-2 werden normalerweise zur Lieferung in Lipidnanopartikeln (LNPs) verpackt. Diese Partikel schützen mRNA vor dem Abbau im Körper und helfen ihm, nach Einmal in die Injektion von Zellen zu gelangen.

Die Schaffung von Partikeln, die diese Arbeitsplätze effizienter erledigen, kann Forschern helfen, noch effektivere Impfstoffe zu entwickeln. Bessere Lieferfahrzeuge können es auch erleichtern, mRNA -Therapien zu entwickeln, die Gene für Proteine kodieren, die zur Behandlung einer Vielzahl von Krankheiten beitragen könnten.

Im Jahr 2024 startete Traversos Labor einen Mehrjahreswert Forschungsprogrammfinanziert von der US-amerikanischen Superior Analysis Tasks Company for Well being (ARPA-H), um neue Eingrenzungsgeräte zu entwickeln, die eine orale Abgabe von RNA-Behandlungen und -impfstoffen erreichen könnten.

„Ein Teil dessen, was wir tun möchten, ist die Entwicklung von Möglichkeiten, um mehr Protein zu produzieren, beispielsweise für therapeutische Anwendungen. Maximierung der Effizienz ist wichtig, um zu steigern, wie viel wir die Zellen produzieren können“, sagt Traverso.

Ein typisches LNP besteht aus vier Komponenten – einem Cholesterinspiegel, einem Helferlipid, einem ionisierbaren Lipid und einem Lipid, das an Polyethylenglykol (PEG) gebunden ist. Verschiedene Varianten jeder dieser Komponenten können ausgetauscht werden, um eine große Anzahl möglicher Kombinationen zu erzeugen. Das Ändern dieser Formulierungen und das Testen jeder einzeln ist sehr zeitaufwändig, daher haben Traverso, Chan und ihre Kollegen beschlossen, sich der künstlichen Intelligenz zuzuwenden, um den Prozess zu beschleunigen.

„Die meisten KI -Modelle in der Arzneimittelentdeckung konzentrieren sich auf die Optimierung einer einzelnen Verbindung jeweils. Dieser Ansatz funktioniert jedoch nicht für Lipid -Nanopartikel, die aus mehreren interagierenden Komponenten bestehen“, sagt Chan. „Um dies anzugehen, haben wir ein neues Modell namens Comet entwickelt, das von derselben Transformatorarchitektur inspiriert ist, die große Sprachmodelle wie Chatgpt. So wie diese Modelle verstehen, wie sich Wörter zu einer Bedeutung verbinden, erfährt Comet, wie unterschiedliche chemische Komponenten in einem Nanopartikel zusammenkommen, um seine Eigenschaften zu beeinflussen – wie das Wunsch in Zellen zu liefern kann.“

Um Schulungsdaten für ihr maschinelles Lernmodell zu generieren, erstellten die Forscher eine Bibliothek mit etwa 3.000 verschiedenen LNP-Formulierungen. Das Workforce testete jedes dieser 3.000 Partikel im Labor, um festzustellen, wie effizient sie ihre Nutzlast an Zellen liefern und dann alle diese Daten in ein maschinelles Lernmodell fütterten.

Nachdem das Modell geschult wurde, baten die Forscher es, neue Formulierungen vorherzusagen, die besser funktionieren als vorhandene LNPs. Sie testeten diese Vorhersagen, indem sie die neuen Formulierungen zur Bereitstellung von mRNA, die ein fluoreszierendes Protein für die in einer Laborschale gezüchteten Mauszellen kodiert, verwendet haben. Sie fanden heraus, dass die vom Modell vorhergesagten LNPs tatsächlich besser funktionierten als die Partikel in den Trainingsdaten und in einigen Fällen besser als LNP -Formulierungen, die kommerziell verwendet werden.

Beschleunigte Entwicklung

Sobald die Forscher zeigten, dass das Modell Partikel genau vorhersagen konnte, die mRNA effizient liefern würden, stellten sie zusätzliche Fragen. Zunächst fragten sie sich, ob sie das Modell auf Nanopartikeln trainieren könnten, das eine fünfte Komponente umfasst: eine Artwork Polymer, der als verzweigte Poly Beta -Aminoester (PBAEs) bekannt ist.

Untersuchungen von Traverso und seinen Kollegen haben gezeigt, dass diese Polymere nuklecksäuren effektiv selbst liefern können, sodass sie untersuchen wollten, ob das Hinzufügen zu LNPs die LNP -Leistung verbessern kann. Das MIT -Workforce erstellte einen Satz von etwa 300 LNPs, zu denen auch diese Polymere gehören, mit denen sie das Modell trainierten. Das resultierende Modell könnte dann zusätzliche Formulierungen mit PBAes vorhersagen, die besser funktionieren würden.

Als nächstes wollten die Forscher das Modell ausbilden, um Vorhersagen über LNPs zu treffen, die in verschiedenen Zellenarten am besten funktionieren würden, einschließlich einer Artwork von Zelle namens Caco-2, die aus Darmkrebszellen stammt. Auch hier konnte das Modell LNPs vorhersagen, die diese Zellen effizient mRNA liefern würden.

Zuletzt verwendeten die Forscher das Modell, um vorherzusagen, welche LNPs Lyophilisierung am besten widerstehen könnten-ein Freeze-Trocknungs-Prozess, der häufig verwendet wird, um die Haltbarkeit von Arzneimitteln zu erweitern.

„Dies ist ein Instrument, mit dem wir es an eine ganz andere Reihe von Fragen anpassen und die Entwicklung beschleunigen können. Wir haben ein großes Trainingssatz durchgeführt, das in das Modell eingegangen ist.

Er und seine Kollegen arbeiten nun daran, einige dieser Partikel in potenzielle Behandlungen für Diabetes und Fettleibigkeit aufzunehmen, die zwei der Hauptziele des von ARPA-H finanzierten Projekts sind. Therapeutika, die mit diesem Ansatz geliefert werden könnten, umfassen GLP-1-Nachahmungen mit ähnlichen Auswirkungen wie Ozempic.

Diese Forschung wurde vom GO Nano Marble Middle am Koch Institute, dem Karl Van Tassel Profession Growth Professurship, der MIT-Abteilung für Maschinenbau, Brigham and Girls’s Hospital und ARPA-H finanziert.

Adblock360 fällt von anderen Adblockern ab, indem sie anpassungsfähigere Filteroptionen und eine verbesserte Benutzersteuerung anbieten, über die Anzeigen blockiert sind. Die meisten Adblocker konzentrieren sich auf die Entfernung von Decken-Anzeigen, aber Adblock360 bietet den Benutzern die Möglichkeit, ihr Looking-Erlebnis zu optimieren.

Es umfasst außerdem integrierte Datenschutzwerkzeuge und Anti-Monitoring-Funktionen, die über die Standardblockierungsfunktionen hinausgehen, die in vielen beliebten Adblockern enthalten sind. Dies macht es zu einer praktischen Wahl für alle, die mehr als nur eine einfache Anzeigenblockierung suchen.

Benutzer, die daran interessiert sind, ihre Privatsphäre, Geschwindigkeit und Looking -Präferenzen zu kontrollieren, stellen häufig fest, dass Adblock360 ihre Bedürfnisse auf eine Weise erfüllt, die andere Erweiterungen möglicherweise nicht. Dieser Vergleich hilft zu klären, ob die einzigartigen Funktionen von Adblock360 besser passen als andere verfügbare Optionen.

Kernunterschiede zwischen Adblock360 und anderen Adblockern

Adblock360 und andere Adblocker basieren auf verschiedenen technischen Rahmenbedingungen, was zu unterschiedlichen Ergebnissen bei der Blockierung der Effektivität, der Schutzmaßnahmen für Datenschutz und der Auswirkungen auf die Geräteleistung führt. Eine Nebenseitigkeitsanalyse zeigt bemerkenswerte Unterscheidungen, die die Auswahl des Instruments durch einen Benutzer untermauern können.

Blockierungstechnologievergleich

Adblock360 verwendet eine Hybridfiltermotor, die herkömmliche Filterlisten mit heuristischer Analyse kombiniert, um aufkommende AD -Formate zu erkennen. Dies ermöglicht es, sowohl statische als auch dynamische Anzeigen zu blockieren, einschließlich derjenigen, die hinter Verschleierungstechniken versteckt sind. Im Gegensatz dazu verlassen sich die meisten beliebten Adblocker stark auf Filterlisten wie EasyList, die möglicherweise neuere Anzeigenformate verpassen oder häufige manuelle Aktualisierungen erfordern.

Eine wichtige Funktion von Adblock360 ist die Echtzeit-Skriptanalyse, die sich automatisch an Änderungen auf Webseiten anpasst. Dies verleiht dem Blockieren von Pop-ups, automatischen Spielvideos und der Überlagerungen, die ältere Blockierungsmethoden umgehen können.

Besonderheit	Adblock360	Die meisten Adblocker
Filterlistenunterstützung	Ja	Ja
Heuristische Analyse	Ja	Selten
Adaptive Skriptkennung	Ja	NEIN
Manuelle Updates benötigt	Weniger häufig	Häufiger

Privatsphäre und Datenschutz des Benutzers

Datenschutzstandards variieren zwischen Adblockern. ADBLOCK360 verarbeitet das lokale Filtern und sammelt oder sendet Benutzerdaten nicht an Distant -Server. Dies minimiert die Exposition gegenüber Information Mining oder Monitoring -Risiken. Die Erweiterung blockiert auch standardmäßig Tracker von Drittanbietern und erhöht die Privatsphäre für nichttechnische Benutzer.

Andere Adblocker können Cloud-basierte Überprüfungen oder optionale Telemetriefunktionen verwenden, die die Nutzungsstatistik übertragen. Während einige Marken dazu clear sind, müssen Benutzer aktiv die Verfolgungsberechtigungen deaktivieren, um die Datenaustausch zu verhindern. Der Ansatz von ADBlock360 schützt persönliche Informationen, ohne dass zusätzliche Konfiguration erforderlich ist.

Haupt Privateness Practices:

• Keine Fernprotokollierung der Browseraktivität.
• Eingebaute Tracker-Blockierung.
• Keine benutzerdefinierbare Telemetrie.

Leistung und Ressourcennutzung

ADBLOCK360 ist für den Verbrauch von Lichtressourcen aus optimiertem Codepfad und Verzögerung nicht wesentlicher Prozesse bis nach dem Laden von Seite ausgelegt. Unabhängige Benchmarks zeigen, dass Speicherverbrauch und CPU-Anforderungen selbst bei ressourcenbeschränkten Systemen niedrig bleiben.

Es ist bekannt, dass mehrere Mainstream -Adblocker die Speicherverwendung erhöhen und die Ladezeiten der Webseiten verlängern, insbesondere bei der Behandlung großer Filterlisten. ADBLOCK360 minimiert dies, indem sie häufige Blockierungsentscheidungen zwischengespeichert und parallele Verarbeitung zur Verringerung der Latenz nutzen.

Die folgende Liste zeigt spezifische Leistungsmerkmale:

• Niedrigere durchschnittliche CPU -Verwendung im Vergleich zu Adblockern, die hauptsächlich auf die statische Filterung beruhen.
• Minimaler Anstieg des Browser -RAM, häufig unter 90 MB professional Sitzung.
• Vernachlässigbarer Effekt auf die Browsergeschwindigkeit aufgrund der asynchronen Verarbeitung.

Einzigartige Funktionen und Vorteile von adblock360

Adblock360 bietet spezifische Verbesserungen, die in Commonplace -Adblockern nicht häufig zu finden sind. Der Fokus liegt auf Anpassung, Kompatibilität und direktem Kundenbetreuungsunterstützung.

Anzeigenanpassungsoptionen

Mit ADBLOCK360 können Benutzer unterschiedliche Arten von Anzeigen selektiv blockieren oder zulassen. Diese Steuerung umfasst Umschaltungen für Banner, Pop-ups, Autoplay-Videoanzeigen und gesponserte Inhalte. Die Filteroptionen sind über eine einfache Schnittstelle zugänglich, sodass Benutzer Anpassungen mit nur wenigen Klicks vornehmen können.

Im Gegensatz zu vielen Adblockern, die feste Hear verwenden, bietet Adblock360 Angebote Echtzeit-Filteranpassung. Erweiterte Benutzer können benutzerdefinierte Regeln oder spezifische Web sites für weiße Hear hinzufügen. Diese Flexibilität kommt Benutzern zugute, die bestimmte Verlage unterstützen möchten, während andere Inhalte blockiert werden.

Eine Zusammenfassung der wichtigsten Funktionen:

Besonderheit	Adblock360	Typischer Adblocker
Benutzerdefinierte Anzeigenfilter	Ja	Restricted/keine
Ortsspezifische Whitelisting	Ja	Manchmal
Echtzeitanpassungen	Ja	NEIN

Plattformübergreifende Kompatibilität

Adblock360 unterstützt eine Reihe von Betriebssystemen und Browsern, darunter Home windows, MacOS, Linux, Android und iOS. Browserverlängerungen werden für Chrom, Firefox, Kante und Safari bereitgestellt. Dies stellt sicher, dass Benutzer eine konsistente Anzeigenblockierung auf ihren Geräten erleben.

Der Service synchronisiert Benutzereinstellungen und Einstellungen über ein sicheres Cloud -Konto. Änderungen an Filtern oder Whitelists auf einem Geräte -Replace sofort auf allen anderen mit demselben Profil verknüpft. ADBLOCK360 befasst sich auch mit mobilen Anzeigentypen wie In-App-Bannern und Umleitungen, die häufig von anderen Blockern übersehen werden.

Diese Breite der Unterstützung ist für Benutzer von Vorteil, die sich täglich auf mehrere Geräte verlassen.

Qualitätsunterstützungsqualität

Adblock360 betreibt ein dediziertes Kundendienstsystem mit direkter Hilfe per E -Mail und Stay -Chat. Die Antwortzeiten sind in der Regel unter 24 Stunden. Fehlerbehebung mit Ressourcen und Setup-Guides finden Sie auf ihrer Web site für Selbstbedienungsunterstützung.

Ein Ticketverfolgungssystem hält die Benutzer über ihren Anforderungsstatus auf dem Laufenden. Regelmäßige Aktualisierungen und spezifisches Suggestions werden nur automatisierte Antworten bereitgestellt. Dieser Ansatz reduziert die Frustration der Benutzer, insbesondere für komplexe Konfigurationsprobleme.

Eine kurze Liste der Supportfunktionen:

• Stay -Chat und 24/7 E -Mail -Help
• Detaillierte Fehlerbehebungsleitfäden

Personalisierte Antworten auf technische Probleme

Testen Sie es selbst: https://adblock360.com

---

Ausgewähltes Bildnachweis

Als Type fasziniert von Videospielen und Puzzles, struggle Marzyeh Ghassemi schon in jungen Jahren von der Gesundheit fasziniert. Glücklicherweise fand sie einen Weg, die beiden Interessen zu verbinden.

„Obwohl ich über eine Karriere im Gesundheitswesen nachgedacht hatte, struggle die Anziehungskraft der Informatik und des Ingenieurwesens stärker“, sagt Ghassemi, außerordentlicher Professor am Division of Electrical Engineering and Laptop Science des MIT und am Institute for Medical Engineering and Science (IMES) und Rektor Forscher am Labor für Informations- und Entscheidungssysteme (LIDS). „Als ich feststellte, dass Informatik im Allgemeinen und KI/ML im Besonderen auf das Gesundheitswesen angewendet werden können, struggle das eine Konvergenz der Interessen.“

Heute arbeiten Ghassemi und ihre Forschungsgruppe „Gesundes ML“ am LIDS an der umfassenden Untersuchung, wie maschinelles Lernen (ML) robuster gemacht und anschließend zur Verbesserung von Sicherheit und Chancengleichheit im Gesundheitswesen eingesetzt werden kann.

Ghassemi wuchs in Texas und New Mexico in einer ingenieurorientierten iranisch-amerikanischen Familie auf und hatte Vorbilder, denen er bei seiner MINT-Karriere folgen konnte. Während sie rätselbasierte Videospiele liebte – „Rätsel zu lösen, um andere Stage freizuschalten oder weiterzukommen, struggle eine sehr attraktive Herausforderung“ –, beschäftigte ihre Mutter sie schon früh mit fortgeschrittenerer Mathematik, was sie dazu verleitete, Mathematik als mehr als nur Arithmetik zu betrachten.

„Addieren oder Multiplizieren sind Grundfertigkeiten, die aus gutem Grund hervorgehoben werden, aber der Fokus kann die Vorstellung verschleiern, dass es in Mathematik und Naturwissenschaften auf höherem Niveau größtenteils um Logik und Rätsel geht“, sagt Ghassemi. „Dank der Ermutigung meiner Mutter wusste ich, dass mir etwas Spaßiges bevorsteht.“

Ghassemi sagt, dass neben ihrer Mutter viele andere ihre intellektuelle Entwicklung unterstützt hätten. Als sie ihren Bachelor-Abschluss an der New Mexico State College machte, half ihr der Direktor des Honors School und ehemaliger Marshall-Stipendiat – Jason Ackelson, heute leitender Berater des US-Heimatschutzministeriums – bei der Bewerbung um ein Marshall-Stipendium, das sie weiterführte Sie ging an die Universität Oxford, wo sie 2011 einen Grasp-Abschluss machte und sich erstmals für das neue und sich schnell entwickelnde Gebiet des maschinellen Lernens interessierte. Während ihrer Doktorarbeit am MIT sagte Ghassemi, dass sie „von Professoren und Kollegen gleichermaßen“ Unterstützung erhalten habe, und fügt hinzu: „Dieses Umfeld der Offenheit und Akzeptanz versuche ich für meine Studenten zu reproduzieren.“

Während ihrer Doktorarbeit stieß Ghassemi auch auf den ersten Hinweis, dass sich in Modellen des maschinellen Lernens Verzerrungen in Gesundheitsdaten verbergen können.

Sie hatte Modelle trainiert, um Ergebnisse anhand von Gesundheitsdaten vorherzusagen, „und die damalige Denkweise bestand darin, alle verfügbaren Daten zu nutzen. Wir hatten gesehen, dass bei neuronalen Netzen für Bilder die richtigen Funktionen für eine gute Leistung erlernt werden, sodass keine manuelle Entwicklung spezifischer Funktionen erforderlich ist.“

Während eines Treffens mit Leo Celi, leitender Forschungswissenschaftler am MIT Laboratory for Computational Physiology und IMES und Mitglied von Ghassemis Dissertationskomitee, fragte Celi, ob Ghassemi überprüft habe, wie intestine die Modelle bei Patienten unterschiedlichen Geschlechts, unterschiedlicher Versicherungsarten und unabhängiger Patienten funktionierten. gemeldete Rennen.

Ghassemi hat nachgesehen, und es gab Lücken. „Wir haben nun quick ein Jahrzehnt Arbeit vor uns, die zeigt, dass diese Modelllücken schwer zu schließen sind – sie sind auf bestehende Verzerrungen bei Gesundheitsdaten und standardmäßige technische Praktiken zurückzuführen. Wenn man nicht sorgfältig darüber nachdenkt, werden Modelle auf naive Weise Vorurteile reproduzieren und erweitern“, sagt sie.

Seitdem beschäftigt sich Ghassemi mit solchen Themen.

Ihr größter Durchbruch in ihrer Arbeit gelang ihr in mehreren Teilen. Zunächst zeigten sie und ihre Forschungsgruppe, dass Lernmodelle die Rasse eines Patienten anhand medizinischer Bilder wie Röntgenaufnahmen des Brustkorbs erkennen können, wozu Radiologen nicht in der Lage sind. Die Gruppe stellte dann fest, dass Modelle, die für eine „durchschnittliche“ Leistung optimiert waren, bei Frauen und Minderheiten nicht so intestine abschnitten. Im vergangenen Sommer kombinierte ihre Gruppe diese Ergebnisse, um zu zeigen, dass der Leistungsunterschied für Untergruppen in diesen Bevölkerungsgruppen umso größer wäre, je mehr ein Modell lernte, die Rasse oder das Geschlecht eines Patienten anhand eines medizinischen Bildes vorherzusagen. Ghassemi und ihr Staff fanden heraus, dass das Drawback gemildert werden könnte, wenn ein Modell darauf trainiert würde, demografische Unterschiede zu berücksichtigen, anstatt sich auf die durchschnittliche Gesamtleistung zu konzentrieren – dieser Prozess muss jedoch an jedem Standort durchgeführt werden, an dem ein Modell eingesetzt wird.

„Wir betonen, dass Modelle, die darauf trainiert wurden, die Leistung zu optimieren (Gesamtleistung mit geringster Gerechtigkeitslücke in Einklang zu bringen) in einem Krankenhausumfeld in anderen Umgebungen nicht optimum sind. „Das hat einen wichtigen Einfluss darauf, wie Modelle für den menschlichen Gebrauch entwickelt werden“, sagt Ghassemi. „Ein Krankenhaus verfügt möglicherweise über die Ressourcen, ein Modell zu trainieren und kann dann nachweisen, dass es gute Leistungen erbringt, möglicherweise sogar unter Berücksichtigung spezifischer Equity-Einschränkungen.“ Unsere Untersuchungen zeigen jedoch, dass diese Leistungsgarantien in neuen Umgebungen nicht gelten. Ein Modell, das an einem Standort intestine ausbalanciert ist, funktioniert in einer anderen Umgebung möglicherweise nicht effektiv. Dies wirkt sich auf den Nutzen von Modellen in der Praxis aus, und es ist wichtig, dass wir daran arbeiten, dieses Drawback für diejenigen anzugehen, die Modelle entwickeln und einsetzen.“

Ghassemis Arbeit ist von ihrer Identität geprägt.

„Ich bin eine sichtbar muslimische Frau und Mutter – beide haben dazu beigetragen, meine Sicht auf die Welt zu prägen, was meine Forschungsinteressen beeinflusst“, sagt sie. „Ich arbeite an der Robustheit von Modellen für maschinelles Lernen und daran, wie mangelnde Robustheit mit bestehenden Vorurteilen kombiniert werden kann. Dieses Interesse ist kein Zufall.“

In Bezug auf ihren Denkprozess sagt Ghassemi, dass ihr oft Inspiration kommt, wenn sie draußen ist – als Studentin beim Fahrradfahren in New Mexico, beim Rudern in Oxford, beim Laufen als Doktorandin am MIT und heutzutage bei einem Spaziergang an der Esplanade von Cambridge. Sie sagt auch, dass sie es bei der Lösung eines komplizierten Issues als hilfreich empfunden hat, über die Teile des größeren Issues nachzudenken und zu verstehen, wie ihre Annahmen zu jedem Teil falsch sein könnten.

„Meiner Erfahrung nach ist der limitierende Faktor für neue Lösungen das, was man zu wissen glaubt“, sagt sie. „Manchmal ist es schwierig, über das eigene (Teil-)Wissen über etwas hinwegzukommen, bis man sich wirklich tief in ein Modell, System usw. vertieft und erkennt, dass man einen Teilbereich nicht richtig oder vollständig verstanden hat.“

So leidenschaftlich Ghassemi auch ihrer Arbeit nachgeht, behält sie bewusst den Überblick über das Gesamtbild des Lebens.

„Wenn man seine Forschung liebt, kann es schwierig sein, zu verhindern, dass dies zu seiner Identität wird – das ist etwas, worüber sich viele Akademiker meiner Meinung nach im Klaren sein müssen“, sagt sie. „Ich versuche sicherzustellen, dass ich Interessen (und Kenntnisse) habe, die über mein eigenes technisches Fachwissen hinausgehen.

„Eine der besten Möglichkeiten, einem Gleichgewicht Priorität einzuräumen, ist die Zusammenarbeit mit guten Leuten. Wenn Sie Familie, Freunde oder Kollegen haben, die Sie ermutigen, ein vollwertiger Mensch zu sein, halten Sie an ihnen fest!“

Ghassemi hat viele Auszeichnungen und viel Anerkennung für seine Arbeit gewonnen, die zwei frühe Leidenschaften umfasst – Informatik und Gesundheit – und bekennt sich zu seinem Glauben daran, das Leben als eine Reise zu sehen.

„Es gibt ein Zitat des persischen Dichters Rumi, das mit „Du bist, was du suchst“ übersetzt wird“, sagt sie. „In jeder Section Ihres Lebens müssen Sie wieder in die Suche nach sich selbst investieren und diese dahingehend ausrichten, wer Sie sein möchten.“