Avoid O(N^2) behavior in SyncPostCheckpoint().
authorTom Lane <tgl@sss.pgh.pa.us>
Tue, 2 Nov 2021 15:31:54 +0000 (11:31 -0400)
committerTom Lane <tgl@sss.pgh.pa.us>
Tue, 2 Nov 2021 15:31:54 +0000 (11:31 -0400)
commit65c6cab1365ac33b11a49a2a193f6b3f9c53e487
treebcd9f453bd64fb8dc7e893bdc6e39b7d3a9c72c4
parentd8dba4d03068eeee1ea3ffc8e7c7b4fa3e35a7f4
Avoid O(N^2) behavior in SyncPostCheckpoint().

As in commits 6301c3ada and e9d9ba2a4, avoid doing repetitive
list_delete_first() operations, since that would be expensive when
there are many files waiting to be unlinked.  This is a slightly
larger change than in those cases.  We have to keep the list state
valid for calls to AbsorbSyncRequests(), so it's necessary to invent a
"canceled" field instead of immediately deleting PendingUnlinkEntry
entries.  Also, because we might not be able to process all the
entries, we need a new list primitive list_delete_first_n().

list_delete_first_n() is almost list_copy_tail(), but it modifies the
input List instead of making a new copy.  I found a couple of existing
uses of the latter that could profitably use the new function.  (There
might be more, but the other callers look like they probably shouldn't
overwrite the input List.)

As before, back-patch to v13.

Discussion: https://postgr.es/m/CD2F0E7F-9822-45EC-A411-AE56F14DEA9F@amazon.com
src/backend/nodes/list.c
src/backend/optimizer/util/clauses.c
src/backend/parser/parse_func.c
src/backend/storage/sync/sync.c
src/include/nodes/pg_list.h