Tworzenie narzędzia do walidacji odbiorców asynchronicznych ptaków z dużą ilością danych
·
26 maj 2022

Najważniejsze informacje
Autor zbudował narzędzie do walidacji masowych odbiorców, aby efektywnie weryfikować miliony adresów e-mail, korzystając z API walidacji odbiorców Bird.
Node.js okazał się szybszy i bardziej skalowalny niż Python dzięki swojemu nieblokującemu I/O i braku ograniczeń GIL.
Narzędzie odczytuje pliki CSV asynchronicznie, wywołuje API walidacji dla każdego e-maila i zapisuje wyniki do nowego pliku CSV w czasie rzeczywistym.
To podejście unika wąskich gardeł w pamięci i poprawia przepustowość do około 100 000 walidacji w mniej niż minutę.
Przyszłe ulepszenia mogą obejmować lepsze zarządzanie ponownymi próbami, przyjazny interfejs użytkownika lub migrację do środowisk bezserwerowych w celu zwiększenia skalowalności.
Podsumowanie pytań i odpowiedzi
Jaki jest cel narzędzia do walidacji odbiorców w trybie asynchronicznym zbiorczym?
Waliduje duże ilości adresów e-mail, integrując się bezpośrednio z API walidacji odbiorców Bird, szybko zwracając zweryfikowane wyniki bez ręcznych przesyłek.
Dlaczego Python był początkowo używany, a później zastąpiony przez Node.js?
Globalny blokada interpreterów Pythona (GIL) ograniczał współbieżność, podczas gdy Node.js pozwalał na prawdziwe asynchroniczne wykonanie, co skutkowało znacznie szybszymi równoległymi wywołaniami API.
Jak narzędzie radzi sobie z dużymi plikami, nie wyczerpując pamięci?
Zamiast ładowania wszystkich danych jednocześnie, skrypt przetwarza każdą linię CSV indywidualnie — wysyłając prośbę o walidację i natychmiast zapisując wyniki do nowego pliku CSV.
Jakie problemy narzędzie rozwiązuje dla programistów?
Umożliwia walidację listy e-mailowej na dużą skalę, pokonując limit 20 MB narzędzia walidacyjnego opartego na interfejsie użytkownika SparkPost i eliminując potrzebę ręcznego przesyłania wielu plików.
Jak szybka jest ostateczna wersja programu?
Około 100 000 walidacji zakończonych w 55 sekund, w porównaniu do ponad minuty przy użyciu wersji interfejsu użytkownika.
Jakie problemy napotkano na systemach Windows?
Pooling połączeń klienta HTTP Node.js spowodował błędy „ENOBUFS” po wielu jednoczesnych żądaniach, które zostały naprawione przez skonfigurowanie ponownego użycia połączeń axios.
Jakie przyszłe usprawnienia są sugerowane?
Dodawanie obsługi błędów i ponownych prób, tworzenie interfejsu front-end lub wdrażanie narzędzia jako funkcji Azure bezserwerowej w celu lepszej skalowalności i odporności.
Dla kogoś, kto szuka prostego i szybkiego programu, który przyjmuje plik csv, wywołuje API do walidacji odbiorcy i generuje plik CSV, ten program jest dla Ciebie.
Podczas tworzenia aplikacji do e-maila, programiści często muszą integrować wiele usług i interfejsów API. Zrozumienie fundamentów API e-mailowego w infrastrukturze chmurowej stanowi podstawę do budowania solidnych narzędzi, takich jak system walidacji zbiorowej, który stworzymy w tym przewodniku.
Jednym z pytań, które czasami otrzymujemy, jest to, jak mogę masowo walidować listy e-mailowe z walidacją odbiorców? Istnieją dwie opcje: jedna to przesłanie pliku przez interfejs SparkPost do walidacji, a druga to dokonywanie pojedynczych wywołań dla każdego e-maila do API (ponieważ API obsługuje walidację pojedynczego e-maila).
Pierwsza opcja działa świetnie, ale ma limit 20 MB (około 500 000 adresów). Co jeśli ktoś ma listę e-mailową zawierającą miliony adresów? Może to oznaczać podzielenie tego na tysiące przesyłek plików CSV.
Skoro przesyłanie tysięcy plików CSV wydaje się nieco nieprawdopodobne, wziąłem ten przypadek użycia i zacząłem się zastanawiać, jak szybko mogę uruchomić API. W tym poście na blogu wyjaśnię, co próbowałem i jak ostatecznie doszedłem do programu, który mógł uzyskać około 100 000 walidacji w 55 sekund (Podczas gdy w interfejsie uzyskałem około 100 000 walidacji w 1 minutę 10 sekund).
Podejście | Testowane walidacje | Czas realizacji | Przybliżona przepustowość |
|---|---|---|---|
Zbiorowe narzędzie async Node.js | 100 000 | 55 sekund | ~1 818 walidacji/sec |
Przesyłanie przez interfejs SparkPost | 100 000 | 1 min 10 sek | ~1 428 walidacji/sec |
I chociaż zajęłoby to około 100 godzin, aby to zrobić przy około 654 milionach walidacji, ten skrypt może działać w tle, oszczędzając znaczną ilość czasu.
Ostateczna wersja tego programu może być znaleziona tutaj.
Mój pierwszy błąd: używanie Pythona
Mój drugi błąd: próba odczytania pliku do pamięci
Moim początkowym pomysłem było follow:

Po pierwsze, wczytaj listę adresów e-mail w formacie CSV. Po drugie, załaduj adresy e-mail do tablicy i sprawdź, czy są w poprawnym formacie. Po trzecie, asynchronicznie wywołaj API walidacji odbiorcy. Po czwarte, poczekaj na wyniki i załaduj je do zmiennej. A na koniec, wypisz tę zmienną do pliku CSV.
To działało bardzo dobrze w przypadku mniejszych plików. Problem pojawił się, gdy próbowałem przeprowadzić walidację 100 000 adresów e-mail. Program zatrzymał się na około 12 000 walidacji. Z pomocą jednego z naszych programistów front-end, zauważyłem, że problem leżał w ładowaniu wszystkich wyników do zmiennej (a tym samym szybko kończyła się pamięć). Jeśli chciałbyś zobaczyć pierwszą wersję tego programu, oto link: Wersja 1 (NIEZALECANE).

Po pierwsze, wczytaj listę adresów e-mail w formacie CSV. Po drugie, zlicz liczbę adresów e-mail w pliku do celów sprawozdawczych. Po trzecie, gdy każda linia jest czytana asynchronicznie, wywołaj API walidacji odbiorcy i zapisz wyniki do pliku CSV.
W ten sposób, dla każdej przeczytanej linii, wywołuję API i zapisuję wyniki asynchronicznie, aby nie przechowywać tych danych w pamięci długoterminowej. Również usunąłem sprawdzanie składni adresu e-mail po rozmowie z zespołem walidacji odbiorcy, ponieważ poinformowali mnie, że walidacja odbiorcy ma już wbudowane kontrole, aby sprawdzić, czy adres e-mail jest ważny czy nie.
Rozbicie finalnego kodu
Następne kroki
Dla kogoś, kto szuka prostego i szybkiego programu, który przyjmuje plik CSV, wywołuje API walidacji odbiorcy i generuje plik CSV, ten program jest dla Ciebie.
Niektóre dodatki do tego programu mogłyby być następujące:
Stworzenie front-endu lub prostszego interfejsu użytkownika do użytku
Lepsze zarządzanie błędami i ponownym wywołaniem, ponieważ jeśli z jakiegoś powodu API zwraca błąd, program obecnie nie próbuje ponownie wykonać wywołania
Rozważ wdrożenie jako funkcję Azure bezserwerową dla automatycznego skalowania i zmniejszonego zarządzania infrastrukturą
Byłbym również ciekaw, czy szybsze wyniki można osiągnąć w innym języku, takim jak Golang lub Erlang/Elixir. Poza wyborem języka, ograniczenia infrastrukturalne mogą również wpływać na wydajność - nauczyliśmy się tego na własnej skórze, kiedy napotkaliśmy nieudokumentowane limity DNS w AWS, które wpłynęły na nasze systemy przetwarzania e-maili o dużym wolumenie.
Dla deweloperów zainteresowanych łączeniem przetwarzania API z wizualnymi narzędziami do tworzenia przepływu, sprawdź, jak zintegrować Flow Builder z Google Cloud Functions w celu automatyzacji robót bez kodu.
Proszę, czuj się swobodnie, aby przekazać mi jakiekolwiek opinie lub sugestie dotyczące rozszerzenia tego projektu.



