Fix contrib/seg to be more wary of long input numbers.
authorTom Lane <tgl@sss.pgh.pa.us>
Wed, 21 Dec 2022 22:51:50 +0000 (17:51 -0500)
committerTom Lane <tgl@sss.pgh.pa.us>
Wed, 21 Dec 2022 22:51:50 +0000 (17:51 -0500)
commit701c881f782b93ee29587112390bd3bfe035e78d
tree9c6fa26811eb5060846fcc75bb0bda3141c028ab
parent33dd895ef3316bd1896def6882e9075359d7e9af
Fix contrib/seg to be more wary of long input numbers.

seg stores the number of significant digits in an input number
in a "char" field.  If char is signed, and the input is more than
127 digits long, the count can read out as negative causing
seg_out() to print garbage (or, if you're really unlucky,
even crash).

To fix, clamp the digit count to be not more than FLT_DIG.
(In theory this loses some information about what the original
input was, but it doesn't seem like useful information; it would
not survive dump/restore in any case.)

Also, in case there are stored values of the seg type containing
bad data, add a clamp in seg_out's restore() subroutine.

Per bug #17725 from Robins Tharakan.  It's been like this
forever, so back-patch to all supported branches.

Discussion: https://postgr.es/m/17725-0a09313b67fbe86e@postgresql.org
contrib/seg/expected/seg.out
contrib/seg/seg.c
contrib/seg/segparse.y
contrib/seg/sql/seg.sql