Prof. Jakub Goldberg urodził się 2 lutego 1924 r. w Łodzi w rodzinie kupców drzewnych. Jego zmarły w 1935 r. dziadek prowadził skład drzewa budowlanego przy ul. Nowo-Zarzewskiej (obecnie Zarzewska) 16/18, a ojciec Zelig przy ul. Wólczańskiej 258. Przed wybuchem II wojny światowej Jakub Goldberg ukończył trzy klasy gimnazjum im. ks. Ignacego Skrupki w Łodzi. Już jako gimnazjalista zaangażował się w działalność Socjalistycznej Organizacji Młodzieży Szkolnej, będącej przybudówką „Jugnt-Bund Cukunft” - Młodzieżowej Organizacji „Przyszłość”, czyli młodzieżówki żydowskiej partii socjalistycznej znanej pod nazwą „Bund”. Po wybuchu II wojny światowej pozostał w Łodzi. W lutym 1940 r. został wraz z babcią zamknięty w łódzkim getcie, gdzie przez cały czas przymusowo pracował, m. in. w wytwórni sałatek oraz w magazynie nabiału. W okresie od marca do września 1944 r. zatrudniony był przy produkcji amunicji w niemieckich obozach pracy przymusowej Hasag w Częstochowie i Skarżysku Kamiennej. We wrześniu 1944 r. znalazł się w filii obozu koncentracyjnego Buchenwald w Meuselwitz koło Lipska, gdzie pracował do kwietnia 1945 r., a następnie uczestniczył w Marszu Śmierci – przeprowadzonej w nieludzkich warunkach pieszej ewakuacji więźniów przed zbliżającym się frontem. Wyzwolony 8 maja 1945 r., po dwumiesięcznym pobycie w szpitalu w rejonie Sudetów, powrócił do Łodzi.
Po powrocie do rodzinnego miasta, jesienią 1945 r. Jakub Goldberg rozpoczął naukę na tzw. roku wstępnym na Uniwersytecie Łódzkim. Egzamin po jego ukończeniu stanowił ekwiwalent matury, dając prawo do podjęcia studiów na wyższej uczelni. Studia w Uniwersytecie Łódzkim na kierunku historia odbył w latach 1947-1952. Jego praca magisterska, napisana pod kierunkiem prof. dr hab. Bohdana Baranowskiego, poświęcona była konfederacji wojskowej po śmierci Jana III Sobieskiego. W czasie studiów Jakub Goldberg zaangażował się czynnie w życie polityczne i społeczne. Był aktywnym członkiem „Bundu”.
W 1951 r., będąc jeszcze słuchaczem ostatniego roku studiów, został zatrudniony w Instytucie Historii Uniwersytetu Łódzkiego na stanowisku młodszego asystenta. Z czasem awansował na stanowisko asystenta, a następnie starszego asystenta. W 1957 r. po raz pierwszy wyjechał do Izraela, gdzie nawiązał kontakty z profesorami Uniwersytetu Hebrajskiego w Jerozolimie. W 1960 r. mgr Jakub Goldberg uzyskał stopień doktora nauk humanistycznych na podstawie rozprawy Problemy agrarne miast w ziemi wieluńskiej w drugiej połowie XVII i XVIII wieku, przygotowanej pod kierunkiem prof. dr hab. Bohdana Baranowskiego. Praca ta została opublikowana w tym samym roku pod zmienionym nieco tytułem Stosunki agrarne w miastach ziemi wieluńskiej w drugiej połowie XVII i XVIII wieku. Po uzyskaniu stopnia naukowego doktora Jakub Goldberg uzyskał awans na stanowisko adiunkta w Instytucie Historii UŁ. W 1967 r. zdecydował się na emigrację do Izraela. W tym samym roku został zatrudniony w Central Archives for the History of the Jewish People w Jerozolimie, uzyskując jednocześnie stypendium naukowe – Warburg Fellow na Uniwersytecie Hebrajskim. W 1969 r. dr Jakub Goldberg został wykładowcą Uniwersytetu Hebrajskiego w Jerozolimie. Tu przeszedł wszystkie szczeble kariery zawodowej, awansując kolejno na stanowisko docenta (1972-1979), profesora nadzwyczajnego (1979-1989) i profesora zwyczajnego (1989-1992). Z jego inicjatywy utworzono w 1989 r. na Uniwersytecie Hebrajskim Centrum Badań Historii i Kultury Żydów Polskich (Center for Research on the History and Culture of Polish Jews), którego był pierwszym kierownikiem (w latach 1989- 1992).
W toku swojej kariery zawodowej prof. Jakub Goldberg wykładał na kilku renomowanych uniwersytetach – w Hajfie (1970-1974), Kolonii (1980-1982), Monachium (1987), Warszawie (1992) i Lipsku (2002-2003) oraz w Gesamthochschule w Kassel (1993). Uzyskał także szereg prestiżowych stypendiów naukowych. Jako Senior Research Fellow przebywał w St. Anthony’s College na Uniwersytecie w Oksfordzie (1975-1976). Był także stypendystą Historische Komission zu Berlin (1986 i 1988), Ośrodka Badań Dziejów Europy Środkowo-Wschodniej (Ostmitteleuropa Zentrum) w Berlinie (1993) oraz Instytutu im. Simona Dubnowa w Lipsku (1995).
Badania naukowe prof. Jakuba Goldberga od początku koncentrowały się na dziejach Rzeczypospolitej w czasach nowożytnych. W 1953 r. wziął on udział w poświęconej polskiemu Odrodzeniu sesji naukowej zorganizowanej przez Instytut Historii Polskiej Akademii Nauk, na której wygłosił referat Załamywanie się ogólnokrajowego procesu przemian na poszczególnych terenach i problem ideologii (opublikowany w materiałach z tej konferencji w 1955 r.). W kolejnych latach jego zainteresowania badawcze przesunęły się jednak wyraźnie na historię społeczno-gospodarczą XVIII stulecia i historię Żydów polskich w tym okresie. W latach 50. i 60. XX w. opublikował kilka prac poświęconych dziejom osadnictwa w dobie nowożytnej (m.in. artykuły Osadnictwo „olęderskie” w dawnym województwie łęczyckim i sieradzkim oraz Osiemnastowieczne lokacje miejskie w dawnych województwach łęczyckim i sieradzkim), jak też historii Żydów w poszczególnych miastach z terenu Polski Środkowej (Kamieńsk, Lutomiersk, Łęczyca). Sporo miejsca w ówczesnych badaniach prof. Jakuba Goldberga zajmował też problem agraryzacji miast polskich w drugiej połowie XVII i w XVIII w. Znalazł on swoje odzwierciedlenie zarówno w jego rozprawie doktorskiej, jak i w kilku innych, drobniejszych publikacjach. W bezpośrednim związku ze wspomnianymi wyżej pracami pozostawały też ogłoszone drukiem w połowie lat 60. niewielkie objętościowo, ale istotne artykuły poświęcone ekonomicznemu modelowi folwarczno-pańszczyźnianej Rzeczypospolitej oraz metodologii badań struktury ludnościowej Polski u schyłku XVIII w.
Prof. Jakub Goldberg opublikował również w omawianym okresie szereg opracowań analitycznych poświęconych różnorakim aspektom dziejów gospodarczych i społecznych województw łęczyckiego, sieradzkiego i ziemi wieluńskiej w XVII i XVIII w. Jego rosnące z czasem zainteresowanie historią Żydów polskich skutkowało z kolei edycją księgi kahału w Działoszynie oraz przygotowaniem do druku artykułu o organizacji Sejmu Czterech Ziem (do kwestii tej powrócił Profesor także w kilku późniejszych pracach, z których najważniejszą wydaje się Żydowski Sejm Czterech Ziem w społecznym i politycznym ustroju dawnej Rzeczypospolitej). Nawiązanie współpracy z wydawcami ksiąg pamiątkowych żydowskich sztetli zaowocowało m. in. opracowaniem przez prof. Goldberga historii Żydów nowogródzkich i zduńskowolskich. Podsumowaniem tego okresu jego badań był artykuł zatytułowany Społeczność żydowska w szlacheckim miasteczku (opublikowany w 1966 r.) oraz współautorstwo części poświęconej województwu łódzkiemu w reprezentacyjnym wydawnictwie Miasta polskie w tysiącleciu.
Po emigracji do Izraela, pomimo niesprzyjających warunków (odcięcie od źródeł i literatury przedmiotu oraz utrudnianie przez ówczesne władze kontaktów z polskimi uczonymi), prof. Jakub Goldberg nie utracił bynajmniej związków z polską nauką historyczną. Wręcz przeciwnie, publikowanymi tu recenzjami przyczyniał się do popularyzowania jej osiągnięć wśród zachodnich uczonych. Po osiedleniu się w Jerozolimie zainteresowania badawcze prof. Jakuba Goldberga skoncentrowały się głównie na dziejach Żydów polskich w XVIII stuleciu. Szczególnie interesowały go kwestie dotyczące stosunków polsko-żydowskich, asymilacji, integracji i konwersji na chrześcijaństwo, którym poświęcił takie prace, jak Poles and Jews in the 17th and 18th Centuries. Rejection or Acceptance (1974), Die getaufte Juden in Polen-Litauen vom 16.-18. Jahrhundert. Taufe, soziale Umschichtung und Integration (1982), Żydowscy konwertyci w społeczeństwie staropolskim (1986), czy Gminy żydowskie (kahały) w systemie władztwa dominialnego w szlacheckiej Rzeczypospolitej (1988).
Jednocześnie Profesor coraz więcej uwagi poświęcał prawnym aspektom dziejów Żydów polskich, co znalazło odzwierciedlenie w pomnikowej publikacji Jewish Privileges in the Polish Commonwelth. Charters of Rights Granted to the Jewish Communities of Poland in the Sixteenth to Eighteenth Centuries (t. I – 1985, t. II-III - 2001). Problemy te podejmował prof. Goldberg również i w innych publikacjach, od końca lat 80. coraz częściej ogłaszanych na łamach periodyków i innego rodzaju wydawnictw polskich. U schyłku lat 90. XX stulecia prof. Jakub Goldberg opublikował hebrajską syntezę dziejów Żydów polskich (Społeczeństwo żydowskie w dawnej Rzeczypospolitej). W latach następnych kontynuował badania dotyczące relacji polsko-żydowskich, problemu asymilacji Żydów w społeczeństwie dawnej Rzeczypospolitej, ich roli gospodarczej, dziejów żydowskiego handlu, jak również problematyki prawno-ustrojowej. Obok tego pojawiły się jednak również nowe tematy badawcze o charakterze biograficznym – edycja pamiętników Mojżesza Wasserzuga vel Wassercuga (2001), czy też opracowanie biogramów wybitnych badaczy historii Żydów polskich – Mojżesza Schorra, Majera Bałabana, Artura Eisenbacha i innych. Prof. Jakub Goldberg jest dziś niekwestionowanym autorytetem wśród historyków zajmujących się dziejami społeczności żydowskiej w Rzeczypospolitej Obojga Narodów. Ogółem bibliografia jego najważniejszych prac drukowanych obejmuje 5 książek oraz ponad 110 artykułów i recenzji opublikowanych w językach polskim, hebrajskim, jidisz, niemieckim i angielskim.
Osiągnięcia badawcze prof. Jakuba Goldberga, uczonego znanego i cenionego na całym świecie, zostały szczególnie uhonorowane w Polsce. W 1987 r. otrzymał on Dyplom Honorowy czasopisma „Polska-Poland” za najlepszą książkę o Polsce wydaną za granicą. W 2004 r. został wyróżniony Dyplomem Ministra Spraw Zagranicznych RP „Za wybitne zasługi dla promocji Polski w świecie”. W 1993 r. prof. Jakub Goldberg został Doktorem Honoris Causa Uniwersytetu Warszawskiego. Od 1998 r. jest członkiem zagranicznym Polskiej Akademii Umiejętności, a od 2005 r. członkiem zagranicznym Polskiej Akademii Nauk. W 2008 r. Profesor otrzymał także odznaczenie Uniwersytetu Hebrajskiego w Jerozolimie „Za osiągnięcia w badaniach i nauczaniu historii Żydów w Polsce”.