<div dir="ltr"><div dir="ltr"><div>Dear Bill, <br></div><div><br></div><div>I concur with your suggested revision to Sect. 10.1.3.</div><div><br></div><div>Regards,</div><div>Dick<br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Oct 27, 2023 at 12:01 PM <<a href="mailto:fitsbits-request@listmgr.nrao.edu">fitsbits-request@listmgr.nrao.edu</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Send fitsbits mailing list submissions to<br>
        <a href="mailto:fitsbits@listmgr.nrao.edu" target="_blank">fitsbits@listmgr.nrao.edu</a><br>
<br>
To subscribe or unsubscribe via the World Wide Web, visit<br>
        <a href="https://listmgr.nrao.edu/mailman/listinfo/fitsbits" rel="noreferrer" target="_blank">https://listmgr.nrao.edu/mailman/listinfo/fitsbits</a><br>
<br>
You can reach the person managing the list at<br>
        <a href="mailto:fitsbits-owner@listmgr.nrao.edu" target="_blank">fitsbits-owner@listmgr.nrao.edu</a><br>
<br>
When replying, please edit your Subject line so it is more specific<br>
than "Re: Contents of fitsbits digest..."<br>
<br>
<br>
Today's Topics:<br>
<br>
   1. Error in the FITS Standard document  {External} (William Pence)<br>
<br>
<br>
----------------------------------------------------------------------<br>
<br>
Message: 1<br>
Date: Thu, 26 Oct 2023 13:55:12 -0400<br>
From: William Pence <<a href="mailto:wdpence2000@yahoo.com" target="_blank">wdpence2000@yahoo.com</a>><br>
To: FITSbits <<a href="mailto:fitsbits@nrao.edu" target="_blank">fitsbits@nrao.edu</a>><br>
Subject: [fitsbits] Error in the FITS Standard document  {External}<br>
Message-ID: <<a href="mailto:37349B71-BFAF-4157-8CA8-74D5DAB7010E@yahoo.com" target="_blank">37349B71-BFAF-4157-8CA8-74D5DAB7010E@yahoo.com</a>><br>
Content-Type: text/plain; charset=utf-8<br>
<br>
?Andreas Korpi-Lagg (MPI) and some of the astropy developers recently alerted me to an apparent incorrect statement in the current FITS Standard document. This occurs in section 10.1.3 of that document in the discussion about compressed arrays:<br>
<br>
?The compressed data columns described above may use either the ?1P? or ?1Q? variable-length array FITS column format if the size of the heap in the compressed FITS file is < 2.1 GB. If the heap is larger than 2.1 GB, then the ?1Q? format (which uses 64-bit pointers) must be used.?<br>
<br>
That second sentence is not correct  because it is possible to create a legal FITS file where the heap is larger than 2.1 GB using the ?1P? column format, for instance if the sum of the 2 pointer values in the P descriptor is greater than 2^31. One could also create a FITS file with an arbitrarily large heap containing extra space that is not used by the P variable-length array column. <br>
<br>
My suggestion is to replace those 2 sentences in the FITS Standard with the following text:<br>
<br>
?The compressed data columns described above may use either the ?1P? or ?1Q? variable-length array FITS column format if the 2 integers in the descriptor have values that are within the range supported by the 32-bit pointers in the ?1P? column format.  Otherwise, the ?1Q? format which uses 64-bit pointers must be used.?<br>
<br>
FWIW, I would recommend always using the 1Q format for variable length arrays.  Then you don?t have to worry about whether the array is too large to fit, and the savings in file size by using the 1P format is usually negligible. <br>
<br>
Bill Pence<br>
NASA/HEASARC Emeritus <br>
<br>
<br>
<br>
<br>
<br>
<br>
<br>
<br>
<br>
<br>
------------------------------<br>
<br>
Subject: Digest Footer<br>
<br>
_______________________________________________<br>
fitsbits mailing list<br>
<a href="mailto:fitsbits@listmgr.nrao.edu" target="_blank">fitsbits@listmgr.nrao.edu</a><br>
<a href="https://listmgr.nrao.edu/mailman/listinfo/fitsbits" rel="noreferrer" target="_blank">https://listmgr.nrao.edu/mailman/listinfo/fitsbits</a><br>
<br>
<br>
------------------------------<br>
<br>
End of fitsbits Digest, Vol 148, Issue 2<br>
****************************************<br>
</blockquote></div></div>