You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
This file contains ambiguous Unicode characters that may be confused with others in your current locale. If your use case is intentional and legitimate, you can safely ignore this warning. Use the Escape button to highlight these characters.
from . . . symbols import ORTH
from . . . util import update_exc
from . . tokenizer_exceptions import BASE_EXCEPTIONS
# Extensive list of both common and uncommon dutch abbreviations copied from
# github.com/diasks2/pragmatic_segmenter, a Ruby library for rule-based
# sentence boundary detection (MIT, Copyright 2015 Kevin S. Dias).
# Source file: https://github.com/diasks2/pragmatic_segmenter/blob/master/lib/pragmatic_segmenter/languages/dutch.rb
# (Last commit: 4d1477b)
# Main purpose of such an extensive list: considerably improved sentence
# segmentation.
# Note: This list has been copied over largely as-is. Some of the abbreviations
# are extremely domain-specific. Tokenizer performance may benefit from some
# slight pruning, although no performance regression has been observed so far.
abbrevs = [
" a.2d. " ,
" a.a. " ,
" a.a.j.b. " ,
" a.f.t. " ,
" a.g.j.b. " ,
" a.h.v. " ,
" a.h.w. " ,
" a.hosp. " ,
" a.i. " ,
" a.j.b. " ,
" a.j.t. " ,
" a.m. " ,
" a.m.r. " ,
" a.p.m. " ,
" a.p.r. " ,
" a.p.t. " ,
" a.s. " ,
" a.t.d.f. " ,
" a.u.b. " ,
" a.v.a. " ,
" a.w. " ,
" aanbev. " ,
" aanbev.comm. " ,
" aant. " ,
" aanv.st. " ,
" aanw. " ,
" vnw. " ,
" aanw.vnw. " ,
" abd. " ,
" abm. " ,
" abs. " ,
" acc.act. " ,
" acc.bedr.m. " ,
" acc.bedr.t. " ,
" achterv. " ,
" act.dr. " ,
" act.dr.fam. " ,
" act.fisc. " ,
" act.soc. " ,
" adm.akk. " ,
" adm.besl. " ,
" adm.lex. " ,
" adm.onderr. " ,
" adm.ov. " ,
" adv. " ,
" adv. " ,
" gen. " ,
" adv.bl. " ,
" afd. " ,
" afl. " ,
" aggl.verord. " ,
" agr. " ,
" al. " ,
" alg. " ,
" alg.richts. " ,
" amén. " ,
" ann.dr. " ,
" ann.dr.lg. " ,
" ann.dr.sc.pol. " ,
" ann.ét.eur. " ,
" ann.fac.dr.lg. " ,
" ann.jur.créd. " ,
" ann.jur.créd.règl.coll. " ,
" ann.not. " ,
" ann.parl. " ,
" ann.prat.comm. " ,
" app. " ,
" arb. " ,
" aud. " ,
" arbbl. " ,
" arbh. " ,
" arbit.besl. " ,
" arbrb. " ,
" arr. " ,
" arr.cass. " ,
" arr.r.v.st. " ,
" arr.verbr. " ,
" arrondrb. " ,
" art. " ,
" artw. " ,
" aud. " ,
" b. " ,
" b. " ,
" b.&w. " ,
" b.a. " ,
" b.a.s. " ,
" b.b.o. " ,
" b.best.dep. " ,
" b.br.ex. " ,
" b.coll.fr.gem.comm. " ,
" b.coll.vl.gem.comm. " ,
" b.d.cult.r. " ,
" b.d.gem.ex. " ,
" b.d.gem.reg. " ,
" b.dep. " ,
" b.e.b. " ,
" b.f.r. " ,
" b.fr.gem.ex. " ,
" b.fr.gem.reg. " ,
" b.i.h. " ,
" b.inl.j.d. " ,
" b.inl.s.reg. " ,
" b.j. " ,
" b.l. " ,
" b.o.z. " ,
" b.prov.r. " ,
" b.r.h. " ,
" b.s. " ,
" b.sr. " ,
" b.stb. " ,
" b.t.i.r. " ,
" b.t.s.z. " ,
" b.t.w.rev. " ,
" b.v. " ,
" b.ver.coll.gem.gem.comm. " ,
" b.verg.r.b. " ,
" b.versl. " ,
" b.vl.ex. " ,
" b.voorl.reg. " ,
" b.w. " ,
" b.w.gew.ex. " ,
" b.z.d.g. " ,
" b.z.v. " ,
" bab. " ,
" bedr.org. " ,
" begins. " ,
" beheersov. " ,
" bekendm.comm. " ,
" bel. " ,
" bel.besch. " ,
" bel.w.p. " ,
" beleidsov. " ,
" belg. " ,
" grondw. " ,
" ber. " ,
" ber.w. " ,
" besch. " ,
" besl. " ,
" beslagr. " ,
" bestuurswet. " ,
" bet. " ,
" betr. " ,
" betr. " ,
" vnw. " ,
" bevest. " ,
" bew. " ,
" bijbl. " ,
" ind. " ,
" eig. " ,
" bijbl.n.bijdr. " ,
" bijl. " ,
" bijv. " ,
" bijw. " ,
" bijz.decr. " ,
" bin.b. " ,
" bkh. " ,
" bl. " ,
" blz. " ,
" bm. " ,
" bn. " ,
" rh. " ,
" bnw. " ,
" bouwr. " ,
" br.parl. " ,
" bs. " ,
" bull. " ,
" bull.adm.pénit. " ,
" bull.ass. " ,
" bull.b.m.m. " ,
" bull.bel. " ,
" bull.best.strafinr. " ,
" bull.bmm. " ,
" bull.c.b.n. " ,
" bull.c.n.c. " ,
" bull.cbn. " ,
" bull.centr.arb. " ,
" bull.cnc. " ,
" bull.contr. " ,
" bull.doc.min.fin. " ,
" bull.f.e.b. " ,
" bull.feb. " ,
" bull.fisc.fin.r. " ,
" bull.i.u.m. " ,
" bull.inf.ass.secr.soc. " ,
" bull.inf.i.e.c. " ,
" bull.inf.i.n.a.m.i. " ,
" bull.inf.i.r.e. " ,
" bull.inf.iec. " ,
" bull.inf.inami. " ,
" bull.inf.ire. " ,
" bull.inst.arb. " ,
" bull.ium. " ,
" bull.jur.imm. " ,
" bull.lég.b. " ,
" bull.off. " ,
" bull.trim.b.dr.comp. " ,
" bull.us. " ,
" bull.v.b.o. " ,
" bull.vbo. " ,
" bv. " ,
" bw. " ,
" bxh. " ,
" byz. " ,
" c. " ,
" c.a. " ,
" c.a.-a. " ,
" c.a.b.g. " ,
" c.c. " ,
" c.c.i. " ,
" c.c.s. " ,
" c.conc.jur. " ,
" c.d.e. " ,
" c.d.p.k. " ,
" c.e. " ,
" c.ex. " ,
" c.f. " ,
" c.h.a. " ,
" c.i.f. " ,
" c.i.f.i.c. " ,
" c.j. " ,
" c.l. " ,
" c.n. " ,
" c.o.d. " ,
" c.p. " ,
" c.pr.civ. " ,
" c.q. " ,
" c.r. " ,
" c.r.a. " ,
" c.s. " ,
" c.s.a. " ,
" c.s.q.n. " ,
" c.v. " ,
" c.v.a. " ,
" c.v.o. " ,
" ca. " ,
" cadeaust. " ,
" cah.const. " ,
" cah.dr.europ. " ,
" cah.dr.immo. " ,
" cah.dr.jud. " ,
" cal. " ,
" 2d. " ,
" cal. " ,
" 3e. " ,
" cal. " ,
" rprt. " ,
" cap. " ,
" carg. " ,
" cass. " ,
" cass. " ,
" verw. " ,
" cert. " ,
" cf. " ,
" ch. " ,
" chron. " ,
" chron.d.s. " ,
" chron.dr.not. " ,
" cie. " ,
" cie. " ,
" verz.schr. " ,
" cir. " ,
" circ. " ,
" circ.z. " ,
" cit. " ,
" cit.loc. " ,
" civ. " ,
" cl.et.b. " ,
" cmt. " ,
" co. " ,
" cognoss.v. " ,
" coll. " ,
" v. " ,
" b. " ,
" colp.w. " ,
" com. " ,
" com. " ,
" cas. " ,
" com.v.min. " ,
" comm. " ,
" comm. " ,
" v. " ,
" comm.bijz.ov. " ,
" comm.erf. " ,
" comm.fin. " ,
" comm.ger. " ,
" comm.handel. " ,
" comm.pers. " ,
" comm.pub. " ,
" comm.straf. " ,
" comm.v. " ,
" comm.venn. " ,
" comm.verz. " ,
" comm.voor. " ,
" comp. " ,
" compt.w. " ,
" computerr. " ,
" con.m. " ,
" concl. " ,
" concr. " ,
" conf. " ,
" confl.w. " ,
" confl.w.huwbetr. " ,
" cons. " ,
" conv. " ,
" coöp. " ,
" ver. " ,
" corr. " ,
" corr.bl. " ,
" cour.fisc. " ,
" cour.immo. " ,
" cridon. " ,
" crim. " ,
" cur. " ,
" cur. " ,
" crt. " ,
" curs. " ,
" d. " ,
" d.-g. " ,
" d.a. " ,
" d.a.v. " ,
" d.b.f. " ,
" d.c. " ,
" d.c.c.r. " ,
" d.d. " ,
" d.d.p. " ,
" d.e.t. " ,
" d.gem.r. " ,
" d.h. " ,
" d.h.z. " ,
" d.i. " ,
" d.i.t. " ,
" d.j. " ,
" d.l.r. " ,
" d.m. " ,
" d.m.v. " ,
" d.o.v. " ,
" d.parl. " ,
" d.w.z. " ,
" dact. " ,
" dat. " ,
" dbesch. " ,
" dbesl. " ,
" dec. " ,
" decr. " ,
" decr.d. " ,
" decr.fr. " ,
" decr.vl. " ,
" decr.w. " ,
" def. " ,
" dep.opv. " ,
" dep.rtl. " ,
" derg. " ,
" desp. " ,
" det.mag. " ,
" deurw.regl. " ,
" dez. " ,
" dgl. " ,
" dhr. " ,
" disp. " ,
" diss. " ,
" div. " ,
" div.act. " ,
" div.bel. " ,
" dl. " ,
" dln. " ,
" dnotz. " ,
" doc. " ,
" hist. " ,
" doc.jur.b. " ,
" doc.min.fin. " ,
" doc.parl. " ,
" doctr. " ,
" dpl. " ,
" dpl.besl. " ,
" dr. " ,
" dr.banc.fin. " ,
" dr.circ. " ,
" dr.inform. " ,
" dr.mr. " ,
" dr.pén.entr. " ,
" dr.q.m. " ,
" drs. " ,
" ds. " ,
" dtp. " ,
" dwz. " ,
" dyn. " ,
" e. " ,
" e.a. " ,
" e.b. " ,
" tek.mod. " ,
" e.c. " ,
" e.c.a. " ,
" e.d. " ,
" e.e. " ,
" e.e.a. " ,
" e.e.g. " ,
" e.g. " ,
" e.g.a. " ,
" e.h.a. " ,
" e.i. " ,
" e.j. " ,
" e.m.a. " ,
" e.n.a.c. " ,
" e.o. " ,
" e.p.c. " ,
" e.r.c. " ,
" e.r.f. " ,
" e.r.h. " ,
" e.r.o. " ,
" e.r.p. " ,
" e.r.v. " ,
" e.s.r.a. " ,
" e.s.t. " ,
" e.v. " ,
" e.v.a. " ,
" e.w. " ,
" e&o.e. " ,
" ec.pol.r. " ,
" econ. " ,
" ed. " ,
" ed(s). " ,
" eff. " ,
" eig. " ,
" eig.mag. " ,
" eil. " ,
" elektr. " ,
" enmb. " ,
" enz. " ,
" err. " ,
" etc. " ,
" etq. " ,
" eur. " ,
" parl. " ,
" eur.t.s. " ,
" ev. " ,
" evt. " ,
" ex. " ,
" ex.crim. " ,
" exec. " ,
" f. " ,
" f.a.o. " ,
" f.a.q. " ,
" f.a.s. " ,
" f.i.b. " ,
" f.j.f. " ,
" f.o.b. " ,
" f.o.r. " ,
" f.o.s. " ,
" f.o.t. " ,
" f.r. " ,
" f.supp. " ,
" f.suppl. " ,
" fa. " ,
" facs. " ,
" fasc. " ,
" fg. " ,
" fid.ber. " ,
" fig. " ,
" fin.verh.w. " ,
" fisc. " ,
" fisc. " ,
" tijdschr. " ,
" fisc.act. " ,
" fisc.koer. " ,
" fl. " ,
" form. " ,
" foro. " ,
" it. " ,
" fr. " ,
" fr.cult.r. " ,
" fr.gem.r. " ,
" fr.parl. " ,
" fra. " ,
" ft. " ,
" g. " ,
" g.a. " ,
" g.a.v. " ,
" g.a.w.v. " ,
" g.g.d. " ,
" g.m.t. " ,
" g.o. " ,
" g.omt.e. " ,
" g.p. " ,
" g.s. " ,
" g.v. " ,
" g.w.w. " ,
" geb. " ,
" gebr. " ,
" gebrs. " ,
" gec. " ,
" gec.decr. " ,
" ged. " ,
" ged.st. " ,
" gedipl. " ,
" gedr.st. " ,
" geh. " ,
" gem. " ,
" gem. " ,
" gem. " ,
" gem.gem.comm. " ,
" gem.st. " ,
" gem.stem. " ,
" gem.w. " ,
" gemeensch.optr. " ,
" gemeensch.standp. " ,
" gemeensch.strat. " ,
" gemeent. " ,
" gemeent.b. " ,
" gemeent.regl. " ,
" gemeent.verord. " ,
" geol. " ,
" geopp. " ,
" gepubl. " ,
" ger.deurw. " ,
" ger.w. " ,
" gerekw. " ,
" gereq. " ,
" gesch. " ,
" get. " ,
" getr. " ,
" gev.m. " ,
" gev.maatr. " ,
" gew. " ,
" ghert. " ,
" gir.eff.verk. " ,
" gk. " ,
" gr. " ,
" gramm. " ,
" grat.w. " ,
" grootb.w. " ,
" grs. " ,
" grvm. " ,
" grw. " ,
" gst. " ,
" gw. " ,
" h.a. " ,
" h.a.v.o. " ,
" h.b.o. " ,
" h.e.a.o. " ,
" h.e.g.a. " ,
" h.e.geb. " ,
" h.e.gestr. " ,
" h.l. " ,
" h.m. " ,
" h.o. " ,
" h.r. " ,
" h.t.l. " ,
" h.t.m. " ,
" h.w.geb. " ,
" hand. " ,
" handelsn.w. " ,
" handelspr. " ,
" handelsr.w. " ,
" handelsreg.w. " ,
" handv. " ,
" harv.l.rev. " ,
" hc. " ,
" herald. " ,
" hert. " ,
" herz. " ,
" hfdst. " ,
" hfst. " ,
" hgrw. " ,
" hhr. " ,
" hist. " ,
" hooggel. " ,
" hoogl. " ,
" hosp. " ,
" hpw. " ,
" hr. " ,
" hr. " ,
" ms. " ,
" hr.ms. " ,
" hregw. " ,
" hrg. " ,
" hst. " ,
" huis.just. " ,
" huisv.w. " ,
" huurbl. " ,
" hv.vn. " ,
" hw. " ,
" hyp.w. " ,
" i.b.s. " ,
" i.c. " ,
" i.c.m.h. " ,
" i.e. " ,
" i.f. " ,
" i.f.p. " ,
" i.g.v. " ,
" i.h. " ,
" i.h.a. " ,
" i.h.b. " ,
" i.l.pr. " ,
" i.o. " ,
" i.p.o. " ,
" i.p.r. " ,
" i.p.v. " ,
" i.pl.v. " ,
" i.r.d.i. " ,
" i.s.m. " ,
" i.t.t. " ,
" i.v. " ,
" i.v.m. " ,
" i.v.s. " ,
" i.w.tr. " ,
" i.z. " ,
" ib. " ,
" ibid. " ,
" icip-ing.cons. " ,
" iem. " ,
" inc. " ,
" indic.soc. " ,
" indiv. " ,
" inf. " ,
" inf.i.d.a.c. " ,
" inf.idac. " ,
" inf.r.i.z.i.v. " ,
" inf.riziv. " ,
" inf.soc.secr. " ,
" ing. " ,
" ing. " ,
" cons. " ,
" ing.cons. " ,
" inst. " ,
" int. " ,
" int. " ,
" rechtsh. " ,
" strafz. " ,
" interm. " ,
" intern.fisc.act. " ,
" intern.vervoerr. " ,
" inv. " ,
" inv. " ,
" f. " ,
" inv.w. " ,
" inv.wet. " ,
" invord.w. " ,
" inz. " ,
" ir. " ,
" irspr. " ,
" iwtr. " ,
" j. " ,
" j.-cl. " ,
" j.c.b. " ,
" j.c.e. " ,
" j.c.fl. " ,
" j.c.j. " ,
" j.c.p. " ,
" j.d.e. " ,
" j.d.f. " ,
" j.d.s.c. " ,
" j.dr.jeun. " ,
" j.j.d. " ,
" j.j.p. " ,
" j.j.pol. " ,
" j.l. " ,
" j.l.m.b. " ,
" j.l.o. " ,
" j.p.a. " ,
" j.r.s. " ,
" j.t. " ,
" j.t.d.e. " ,
" j.t.dr.eur. " ,
" j.t.o. " ,
" j.t.t. " ,
" jaarl. " ,
" jb.hand. " ,
" jb.kred. " ,
" jb.kred.c.s. " ,
" jb.l.r.b. " ,
" jb.lrb. " ,
" jb.markt. " ,
" jb.mens. " ,
" jb.t.r.d. " ,
" jb.trd. " ,
" jeugdrb. " ,
" jeugdwerkg.w. " ,
" jhr. " ,
" jg. " ,
" jis. " ,
" jl. " ,
" journ.jur. " ,
" journ.prat.dr.fisc.fin. " ,
" journ.proc. " ,
" jr. " ,
" jrg. " ,
" jur. " ,
" jur.comm.fl. " ,
" jur.dr.soc.b.l.n. " ,
" jur.f.p.e. " ,
" jur.fpe. " ,
" jur.niv. " ,
" jur.trav.brux. " ,
" jurambt. " ,
" jv.cass. " ,
" jv.h.r.j. " ,
" jv.hrj. " ,
" jw. " ,
" k. " ,
" k. " ,
" k.b. " ,
" k.g. " ,
" k.k. " ,
" k.m.b.o. " ,
" k.o.o. " ,
" k.v.k. " ,
" k.v.v.v. " ,
" kadasterw. " ,
" kaderb. " ,
" kador. " ,
" kbo-nr. " ,
" kg. " ,
" kh. " ,
" kiesw. " ,
" kind.bes.v. " ,
" kkr. " ,
" kon. " ,
" koopv. " ,
" kr. " ,
" krankz.w. " ,
" ksbel. " ,
" kt. " ,
" ktg. " ,
" ktr. " ,
" kvdm. " ,
" kw.r. " ,
" kymr. " ,
" kzr. " ,
" kzw. " ,
" l. " ,
" l.b. " ,
" l.b.o. " ,
" l.bas. " ,
" l.c. " ,
" l.gew. " ,
" l.j. " ,
" l.k. " ,
" l.l. " ,
" l.o. " ,
" l.p. " ,
" l.r.b. " ,
" l.u.v.i. " ,
" l.v.r. " ,
" l.v.w. " ,
" l.w. " ,
" l ' exp.-compt.b.. " ,
" l’ exp.-compt.b. " ,
" landinr.w. " ,
" landscrt. " ,
" lat. " ,
" law.ed. " ,
" lett. " ,
" levensverz. " ,
" lgrs. " ,
" lidw. " ,
" limb.rechtsl. " ,
" lit. " ,
" litt. " ,
" liw. " ,
" liwet. " ,
" lk. " ,
" ll. " ,
" ll.(l.)l.r. " ,
" loonw. " ,
" losbl. " ,
" ltd. " ,
" luchtv. " ,
" luchtv.w. " ,
" m. " ,
" m. " ,
" not. " ,
" m.a.v.o. " ,
" m.a.w. " ,
" m.b. " ,
" m.b.o. " ,
" m.b.r. " ,
" m.b.t. " ,
" m.d.g.o. " ,
" m.e.a.o. " ,
" m.e.r. " ,
" m.h. " ,
" m.h.d. " ,
" m.i.v. " ,
" m.j.t. " ,
" m.k. " ,
" m.m. " ,
" m.m.a. " ,
" m.m.h.h. " ,
" m.m.v. " ,
" m.n. " ,
" m.not.fisc. " ,
" m.nt. " ,
" m.o. " ,
" m.r. " ,
" m.s.a. " ,
" m.u.p. " ,
" m.v.a. " ,
" m.v.h.n. " ,
" m.v.t. " ,
" m.z. " ,
" maatr.teboekgest.luchtv. " ,
" maced. " ,
" mand. " ,
" max. " ,
" mbl.not. " ,
" me. " ,
" med. " ,
" med. " ,
" v.b.o. " ,
" med.b.u.f.r. " ,
" med.bufr. " ,
" med.vbo. " ,
" meerv. " ,
" meetbr.w. " ,
" mej. " ,
" mevr. " ,
" mém.adm. " ,
" mgr. " ,
" mgrs. " ,
" mhd. " ,
" mi.verantw. " ,
" mil. " ,
" mil.bed. " ,
" mil.ger. " ,
" min. " ,
" min. " ,
" aanbev. " ,
" min. " ,
" circ. " ,
" min. " ,
" fin. " ,
" min.j.omz. " ,
" min.just.circ. " ,
" mitt. " ,
" mln. " ,
" mnd. " ,
" mod. " ,
" mon. " ,
" mouv.comm. " ,
" mr. " ,
" ms. " ,
" muz. " ,
" mv. " ,
" n. " ,
" chr. " ,
" n.a. " ,
" n.a.g. " ,
" n.a.v. " ,
" n.b. " ,
" n.c. " ,
" n.chr. " ,
" n.d. " ,
" n.d.r. " ,
" n.e.a. " ,
" n.g. " ,
" n.h.b.c. " ,
" n.j. " ,
" n.j.b. " ,
" n.j.w. " ,
" n.l. " ,
" n.m. " ,
" n.m.m. " ,
" n.n. " ,
" n.n.b. " ,
" n.n.g. " ,
" n.n.k. " ,
" n.o.m. " ,
" n.o.t.k. " ,
" n.rapp. " ,
" n.tijd.pol. " ,
" n.v. " ,
" n.v.d.r. " ,
" n.v.d.v. " ,
" n.v.o.b. " ,
" n.v.t. " ,
" nat.besch.w. " ,
" nat.omb. " ,
" nat.pers. " ,
" ned. " ,
" ned.cult.r. " ,
" neg.verkl. " ,
" nhd. " ,
" wisk. " ,
" njcm-bull. " ,
" nl. " ,
" nnd. " ,
" no. " ,
" not.fisc.m. " ,
" not.w. " ,
" not.wet. " ,
" nr. " ,
" nrs. " ,
" nste. " ,
" nt. " ,
" numism. " ,
" o. " ,
" o.a. " ,
" o.b. " ,
" o.c. " ,
" o.g. " ,
" o.g.v. " ,
" o.i. " ,
" o.i.d. " ,
" o.m. " ,
" o.o. " ,
" o.o.d. " ,
" o.o.v. " ,
" o.p. " ,
" o.r. " ,
" o.regl. " ,
" o.s. " ,
" o.t.s. " ,
" o.t.t. " ,
" o.t.t.t. " ,
" o.t.t.z. " ,
" o.tk.t. " ,
" o.v.t. " ,
" o.v.t.t. " ,
" o.v.tk.t. " ,
" o.v.v. " ,
" ob. " ,
" obsv. " ,
" octr. " ,
" octr.gem.regl. " ,
" octr.regl. " ,
" oe. " ,
" off.pol. " ,
" ofra. " ,
" ohd. " ,
" omb. " ,
" omnil. " ,
" omz. " ,
" on.ww. " ,
" onderr. " ,
" onfrank. " ,
" onteig.w. " ,
" ontw. " ,
" b.w. " ,
" onuitg. " ,
" onz. " ,
" oorl.w. " ,
" op.cit. " ,
" opin.pa. " ,
" opm. " ,
" or. " ,
" ord.br. " ,
" ord.gem. " ,
" ors. " ,
" orth. " ,
" os. " ,
" osm. " ,
" ov. " ,
" ov.w.i. " ,
" ov.w.ii. " ,
" ov.ww. " ,
" overg.w. " ,
" overw. " ,
" ovkst. " ,
" oz. " ,
" p. " ,
" p.a. " ,
" p.a.o. " ,
" p.b.o. " ,
" p.e. " ,
" p.g. " ,
" p.j. " ,
" p.m. " ,
" p.m.a. " ,
" p.o. " ,
" p.o.j.t. " ,
" p.p. " ,
" p.v. " ,
" p.v.s. " ,
" pachtw. " ,
" pag. " ,
" pan. " ,
" pand.b. " ,
" pand.pér. " ,
" parl.gesch. " ,
" parl.gesch. " ,
" inv. " ,
" parl.st. " ,
" part.arb. " ,
" pas. " ,
" pasin. " ,
" pat. " ,
" pb.c. " ,
" pb.l. " ,
" pct. " ,
" pens. " ,
" pensioenverz. " ,
" per.ber.i.b.r. " ,
" per.ber.ibr. " ,
" pers. " ,
" st. " ,
" pft. " ,
" pk. " ,
" pktg. " ,
" plv. " ,
" po. " ,
" pol. " ,
" pol.off. " ,
" pol.r. " ,
" pol.w. " ,
" postbankw. " ,
" postw. " ,
" pp. " ,
" pr. " ,
" preadv. " ,
" pres. " ,
" prf. " ,
" prft. " ,
" prg. " ,
" prijz.w. " ,
" proc. " ,
" procesregl. " ,
" prof. " ,
" prot. " ,
" prov. " ,
" prov.b. " ,
" prov.instr.h.m.g. " ,
" prov.regl. " ,
" prov.verord. " ,
" prov.w. " ,
" publ. " ,
" pun. " ,
" pw. " ,
" q.b.d. " ,
" q.e.d. " ,
" q.q. " ,
" q.r. " ,
" r. " ,
" r.a.b.g. " ,
" r.a.c.e. " ,
" r.a.j.b. " ,
" r.b.d.c. " ,
" r.b.d.i. " ,
" r.b.s.s. " ,
" r.c. " ,
" r.c.b. " ,
" r.c.d.c. " ,
" r.c.j.b. " ,
" r.c.s.j. " ,
" r.cass. " ,
" r.d.c. " ,
" r.d.i. " ,
" r.d.i.d.c. " ,
" r.d.j.b. " ,
" r.d.j.p. " ,
" r.d.p.c. " ,
" r.d.s. " ,
" r.d.t.i. " ,
" r.e. " ,
" r.f.s.v.p. " ,
" r.g.a.r. " ,
" r.g.c.f. " ,
" r.g.d.c. " ,
" r.g.f. " ,
" r.g.z. " ,
" r.h.a. " ,
" r.i.c. " ,
" r.i.d.a. " ,
" r.i.e.j. " ,
" r.i.n. " ,
" r.i.s.a. " ,
" r.j.d.a. " ,
" r.j.i. " ,
" r.k. " ,
" r.l. " ,
" r.l.g.b. " ,
" r.med. " ,
" r.med.rechtspr. " ,
" r.n.b. " ,
" r.o. " ,
" r.ov. " ,
" r.p. " ,
" r.p.d.b. " ,
" r.p.o.t. " ,
" r.p.r.j. " ,
" r.p.s. " ,
" r.r.d. " ,
" r.r.s. " ,
" r.s. " ,
" r.s.v.p. " ,
" r.stvb. " ,
" r.t.d.f. " ,
" r.t.d.h. " ,
" r.t.l. " ,
" r.trim.dr.eur. " ,
" r.v.a. " ,
" r.verkb. " ,
" r.w. " ,
" r.w.d. " ,
" rap.ann.c.a. " ,
" rap.ann.c.c. " ,
" rap.ann.c.e. " ,
" rap.ann.c.s.j. " ,
" rap.ann.ca. " ,
" rap.ann.cass. " ,
" rap.ann.cc. " ,
" rap.ann.ce. " ,
" rap.ann.csj. " ,
" rapp. " ,
" rb. " ,
" rb.kh. " ,
" rdn. " ,
" rdnr. " ,
" re.pers. " ,
" rec. " ,
" rec.c.i.j. " ,
" rec.c.j.c.e. " ,
" rec.cij. " ,
" rec.cjce. " ,
" rec.gén.enr.not. " ,
" rechtsk.t. " ,
" rechtspl.zeem. " ,
" rechtspr.arb.br. " ,
" rechtspr.b.f.e. " ,
" rechtspr.bfe. " ,
" rechtspr.soc.r.b.l.n. " ,
" recl.reg. " ,
" rect. " ,
" red. " ,
" reg. " ,
" reg.huiz.bew. " ,
" reg.w. " ,
" registr.w. " ,
" regl. " ,
" regl. " ,
" r.v.k. " ,
" regl.besl. " ,
" regl.onderr. " ,
" regl.r.t. " ,
" rep. " ,
" rép.fisc. " ,
" rép.not. " ,
" rep.r.j. " ,
" rep.rj. " ,
" req. " ,
" res. " ,
" resp. " ,
" rev. " ,
" rev. " ,
" comp. " ,
" rev. " ,
" trim. " ,
" civ. " ,
" rev. " ,
" trim. " ,
" comm. " ,
" rev.acc.trav. " ,
" rev.adm. " ,
" rev.b.compt. " ,
" rev.b.dr.const. " ,
" rev.b.dr.intern. " ,
" rev.b.séc.soc. " ,
" rev.banc.fin. " ,
" rev.comm. " ,
" rev.cons.prud. " ,
" rev.dr.b. " ,
" rev.dr.commun. " ,
" rev.dr.étr. " ,
" rev.dr.fam. " ,
" rev.dr.intern.comp. " ,
" rev.dr.mil. " ,
" rev.dr.min. " ,
" rev.dr.pén. " ,
" rev.dr.pén.mil. " ,
" rev.dr.rur. " ,
" rev.dr.u.l.b. " ,
" rev.dr.ulb. " ,
" rev.exp. " ,
" rev.faill. " ,
" rev.fisc. " ,
" rev.gd. " ,
" rev.hist.dr. " ,
" rev.i.p.c. " ,
" rev.ipc. " ,
" rev.not.b. " ,
" rev.prat.dr.comm. " ,
" rev.prat.not.b. " ,
" rev.prat.soc. " ,
" rev.rec. " ,
" rev.rw. " ,
" rev.trav. " ,
" rev.trim.d.h. " ,
" rev.trim.dr.fam. " ,
" rev.urb. " ,
" richtl. " ,
" riv.dir.int. " ,
" riv.dir.int.priv.proc. " ,
" rk. " ,
" rln. " ,
" roln. " ,
" rom. " ,
" rondz. " ,
" rov. " ,
" rtl. " ,
" rubr. " ,
" ruilv.wet. " ,
" rv.verdr. " ,
" rvkb. " ,
" s. " ,
" s. " ,
" s.a. " ,
" s.b.n. " ,
" s.ct. " ,
" s.d. " ,
" s.e.c. " ,
" s.e.et.o. " ,
" s.e.w. " ,
" s.exec.rept. " ,
" s.hrg. " ,
" s.j.b. " ,
" s.l. " ,
" s.l.e.a. " ,
" s.l.n.d. " ,
" s.p.a. " ,
" s.s. " ,
" s.t. " ,
" s.t.b. " ,
" s.v. " ,
" s.v.p. " ,
" samenw. " ,
" sc. " ,
" sch. " ,
" scheidsr.uitspr. " ,
" schepel.besl. " ,
" sec. " ,
" secr.comm. " ,
" secr.gen. " ,
" sect.soc. " ,
" sess. " ,
" cas. " ,
" sir. " ,
" soc. " ,
" best. " ,
" soc. " ,
" handv. " ,
" soc. " ,
" verz. " ,
" soc.act. " ,
" soc.best. " ,
" soc.kron. " ,
" soc.r. " ,
" soc.sw. " ,
" soc.weg. " ,
" sofi-nr. " ,
" somm. " ,
" somm.ann. " ,
" sp.c.c. " ,
" sr. " ,
" ss. " ,
" st.doc.b.c.n.a.r. " ,
" st.doc.bcnar. " ,
" st.vw. " ,
" stagever. " ,
" stas. " ,
" stat. " ,
" stb. " ,
" stbl. " ,
" stcrt. " ,
" stud.dipl. " ,
" su. " ,
" subs. " ,
" subst. " ,
" succ.w. " ,
" suppl. " ,
" sv. " ,
" sw. " ,
" t. " ,
" t.a. " ,
" t.a.a. " ,
" t.a.n. " ,
" t.a.p. " ,
" t.a.s.n. " ,
" t.a.v. " ,
" t.a.v.w. " ,
" t.aann. " ,
" t.acc. " ,
" t.agr.r. " ,
" t.app. " ,
" t.b.b.r. " ,
" t.b.h. " ,
" t.b.m. " ,
" t.b.o. " ,
" t.b.p. " ,
" t.b.r. " ,
" t.b.s. " ,
" t.b.v. " ,
" t.bankw. " ,
" t.belg.not. " ,
" t.desk. " ,
" t.e.m. " ,
" t.e.p. " ,
" t.f.r. " ,
" t.fam. " ,
" t.fin.r. " ,
" t.g.r. " ,
" t.g.t. " ,
" t.g.v. " ,
" t.gem. " ,
" t.gez. " ,
" t.huur. " ,
" t.i.n. " ,
" t.j.k. " ,
" t.l.l. " ,
" t.l.v. " ,
" t.m. " ,
" t.m.r. " ,
" t.m.w. " ,
" t.mil.r. " ,
" t.mil.strafr. " ,
" t.not. " ,
" t.o. " ,
" t.o.r.b. " ,
" t.o.v. " ,
" t.ontv. " ,
" t.p.r. " ,
" t.pol. " ,
" t.r. " ,
" t.r.g. " ,
" t.r.o.s. " ,
" t.r.v. " ,
" t.s.r. " ,
" t.strafr. " ,
" t.t. " ,
" t.u. " ,
" t.v.c. " ,
" t.v.g. " ,
" t.v.m.r. " ,
" t.v.o. " ,
" t.v.v. " ,
" t.v.v.d.b. " ,
" t.v.w. " ,
" t.verz. " ,
" t.vred. " ,
" t.vreemd. " ,
" t.w. " ,
" t.w.k. " ,
" t.w.v. " ,
" t.w.v.r. " ,
" t.wrr. " ,
" t.z. " ,
" t.z.t. " ,
" t.z.v. " ,
" taalk. " ,
" tar.burg.z. " ,
" td. " ,
" techn. " ,
" telecomm. " ,
" th. " ,
" toel. " ,
" toel.st.v.w. " ,
" toep. " ,
" toep.regl. " ,
" tom. " ,
" top. " ,
" trans.b. " ,
" transp.r. " ,
" trb. " ,
" trib. " ,
" trib.civ. " ,
" trib.gr.inst. " ,
" ts. " ,
" ts. " ,
" best. " ,
" ts. " ,
" verv. " ,
" turnh.rechtsl. " ,
" tvpol. " ,
" tvpr. " ,
" tvrechtsgesch. " ,
" tw. " ,
" u. " ,
" u.a. " ,
" u.a.r. " ,
" u.a.v. " ,
" u.c. " ,
" u.c.c. " ,
" u.g. " ,
" u.p. " ,
" u.s. " ,
" u.s.d.c. " ,
" uitdr. " ,
" uitl.w. " ,
" uitv.besch.div.b. " ,
" uitv.besl. " ,
" uitv.besl. " ,
" succ.w. " ,
" uitv.besl.bel.rv. " ,
" uitv.besl.l.b. " ,
" uitv.reg. " ,
" inv.w. " ,
" uitv.reg.bel.d. " ,
" uitv.reg.afd.verm. " ,
" uitv.reg.lb. " ,
" uitv.reg.succ.w. " ,
" univ. " ,
" univ.verkl. " ,
" v. " ,
" v. " ,
" chr. " ,
" v.a. " ,
" v.a.v. " ,
" v.c. " ,
" v.C. " ,
" v.Chr. " ,
" v.chr. " ,
" v.d. " ,
" v.h. " ,
" v.huw.verm. " ,
" v.i. " ,
" v.i.o. " ,
" v.j. " ,
" v.k.a. " ,
" v.m. " ,
" v.o.f. " ,
" v.o.n. " ,
" v.onderh.verpl. " ,
" v.p. " ,
" v.r. " ,
" v.s.o. " ,
" v.t.t. " ,
" v.t.t.t. " ,
" v.tk.t. " ,
" v.toep.r.vert. " ,
" v.v.b. " ,
" v.v.g. " ,
" v.v.t. " ,
" v.v.t.t. " ,
" v.v.tk.t. " ,
" v.w.b. " ,
" v.z.m. " ,
" vb. " ,
" vb.bo. " ,
" vbb. " ,
" vc. " ,
" vd. " ,
" veldw. " ,
" ver.k. " ,
" ver.verg.gem. " ,
" gem.comm. " ,
" verbr. " ,
" verd. " ,
" verdr. " ,
" verdr.v. " ,
" tek.mod. " ,
" verenw. " ,
" verg. " ,
" verg.fr.gem. " ,
" comm. " ,
" verkl. " ,
" verkl.herz.gw. " ,
" verl. " ,
" deelw. " ,
" vern. " ,
" verord. " ,
" vers.r. " ,
" versch. " ,
" versl.c.s.w. " ,
" versl.csw. " ,
" vert. " ,
" verw. " ,
" verz. " ,
" verz.w. " ,
" verz.wett.besl. " ,
" verz.wett.decr.besl. " ,
" vgl. " ,
" vid. " ,
" viss.w. " ,
" vl.parl. " ,
" vl.r. " ,
" vl.t.gez. " ,
" vl.w.reg. " ,
" vl.w.succ. " ,
" vlg. " ,
" vn. " ,
" vnl. " ,
" vnw. " ,
" vo. " ,
" vo.bl. " ,
" voegw. " ,
" vol. " ,
" volg. " ,
" volt. " ,
" deelw. " ,
" voorl. " ,
" voorz. " ,
" vord.w. " ,
" vorst.d. " ,
" vr. " ,
" vred. " ,
" vrg. " ,
" vnw. " ,
" vrijgrs. " ,
" vs. " ,
" vt. " ,
" vw. " ,
" vz. " ,
" vzngr. " ,
" vzr. " ,
" w. " ,
" w.a. " ,
" w.b.r. " ,
" w.c.h. " ,
" w.conf.huw. " ,
" w.conf.huwelijksb. " ,
" w.consum.kr. " ,
" w.f.r. " ,
" w.g. " ,
" w.gew.r. " ,
" w.ident.pl. " ,
" w.just.doc. " ,
" w.kh. " ,
" w.l.r. " ,
" w.l.v. " ,
" w.mil.straf.spr. " ,
" w.n. " ,
" w.not.ambt. " ,
" w.o. " ,
" w.o.d.huurcomm. " ,
" w.o.d.k. " ,
" w.openb.manif. " ,
" w.parl. " ,
" w.r. " ,
" w.reg. " ,
" w.succ. " ,
" w.u.b. " ,
" w.uitv.pl.verord. " ,
" w.v. " ,
" w.v.k. " ,
" w.v.m.s. " ,
" w.v.r. " ,
" w.v.w. " ,
" w.venn. " ,
" wac. " ,
" wd. " ,
" wetb. " ,
" n.v.h. " ,
" wgb. " ,
" winkelt.w. " ,
" wisk. " ,
" wka-verkl. " ,
" wnd. " ,
" won.w. " ,
" woningw. " ,
" woonr.w. " ,
" wrr. " ,
" wrr.ber. " ,
" wrsch. " ,
" ws. " ,
" wsch. " ,
" wsr. " ,
" wtvb. " ,
" ww. " ,
" x.d. " ,
" z.a. " ,
" z.g. " ,
" z.i. " ,
" z.j. " ,
" z.o.z. " ,
" z.p. " ,
" z.s.m. " ,
" zg. " ,
" zgn. " ,
" zn. " ,
" znw. " ,
" zr. " ,
" zr. " ,
" ms. " ,
" zr.ms. " ,
" ' m " ,
" ' n " ,
" ' ns " ,
" ' s " ,
" ' t " ,
]
_exc = { }
for orth in abbrevs :
_exc [ orth ] = [ { ORTH : orth } ]
uppered = orth . upper ( )
capsed = orth . capitalize ( )
for i in [ uppered , capsed ] :
_exc [ i ] = [ { ORTH : i } ]
TOKENIZER_EXCEPTIONS = update_exc ( BASE_EXCEPTIONS , _exc )